Кемпбелл Браун провела кар?єру в пошуках достовірної інформації: спочатку як відома тележурналістка, а потім як перша й єдина керівниця новинного напрямку Facebook. Зараз, спостерігаючи, як штучний інтелект змінює споживання інформації, вона бачить загрозу повторення старих помилок. Цього разу вона не чекає, поки хтось інший це виправить.
Її компанія Forum AI, про яку вона нещодавно розповіла в розмові з Тімом Фернхольцом із TechCrunch на вечірньому заході StrictlyVC у Сан?Франциско, оцінює, як базові моделі ШІ працюють із тим, що вона називає «високосттавковими темами» — геополітикою, ментальним здоров?ям, фінансами, наймом, тобто питаннями, де «немає чітких відповідей «так» чи «ні», де все туманне, нюансоване й складне».
Ідея в тому, щоб залучити провідних світових експертів, дати їм побудувати бенчмарки, а потім навчити ШІ?«суддів» оцінювати моделі на великому масштабі. Для геополітичного напряму Forum AI Браун запросила Ніла Фергюсона, Фаріда Закарію, колишнього держсекретаря США Ентоні Блінкена, ексспікера Палати представників Кевіна Маккарті та Енн Нойбергер, яка очолювала кібербезпеку в адміністрації Обами. Мета — досягти приблизно 90% збігу оцінок ШІ?«суддів» з позиціями цих експертів. За словами Браун, Forum AI вже вдалося вийти на такий рівень.
Браун пов?язує появу Forum AI, заснованої 17 місяців тому в Нью?Йорку, з конкретним моментом. «Я працювала в Meta, коли ChatGPT уперше відкрили для публіки, — згадує вона. — Дуже швидко стало зрозуміло: це буде воронка, через яку проходитиме вся інформація. І вона не дуже хороша». Усе це набуло майже екзистенційного виміру, коли вона подумала про власних дітей. «Мої діти будуть дуже тупими, якщо ми не розберемося, як це виправити», — згадує вона свою реакцію.
Найбільше її дратувало те, що точність, схоже, не є пріоритетом майже ні для кого. Компанії, які створюють базові моделі, за її словами, «надзвичайно сфокусовані на кодуванні та математиці», тоді як робота з новинами та інформацією значно складніша. Але складніше, стверджує вона, не означає факультативне.
Коли Forum AI почала оцінювати провідні моделі, результати виявилися не дуже обнадійливими. Вона навела приклад Gemini, яка підтягує матеріали з сайтів Комуністичної партії Китаю «для історій, які взагалі не стосуються Китаю», а також відзначила лівий політичний ухил майже в усіх моделях. Є й тонші збої, каже вона: відсутній контекст, втрачені точки зору, навмисне спрощення й перекручування опонентських аргументів без відповідних застережень. «Попереду довгий шлях, — каже вона. — Але я також думаю, що є кілька дуже простих рішень, які могли б суттєво покращити результати».
Браун роками спостерігала у Facebook, що буває, коли платформа оптимізує не те, що потрібно. «У багато чому з того, що ми пробували, ми зазнали поразки», — сказала вона Фернхольцу. Створена нею програма фактчекінгу більше не існує. Висновок, від якого соцмережі й досі відвертаються: оптимізація під залучення виявилася шкідливою для суспільства і зробила багатьох людей менш обізнаними.
Вона сподівається, що ШІ зможе розірвати це коло. «Зараз усе може піти в будь?який бік», — каже вона. Компанії можуть давати користувачам те, що вони хочуть, або ж «давати людям те, що є реальним, чесним і правдивим». Вона визнає, що такий ідеалістичний підхід — оптимізація ШІ під істину — може звучати наївно. Але, на її думку, несподіваним союзником тут може стати бізнес. Компанії, які використовують ШІ для кредитних рішень, кредитування, страхування та найму, хвилює відповідальність, і «вони захочуть, щоб ви оптимізували систему під те, щоб вона була правою, тобто давала правильні результати».
Саме на цьому попиті з боку бізнесу Forum AI вибудовує свою модель. Водночас перетворити інтерес до відповідності вимогам регулювання на стабільний дохід усе ще складно, особливо з огляду на те, що значну частину ринку наразі задовольняють формальні аудити «для галочки» та стандартизовані бенчмарки, які Браун вважає недостатніми.
Середовище комплаєнсу, каже вона, — це «жарт». Коли Нью?Йорк першим ухвалив закон про упередженість у системах найму, який вимагає аудиту ШІ?інструментів, державний контролер виявив, що більш ніж у половини компаній були порушення, які ніхто не зафіксував. Реальна оцінка, за її словами, потребує галузевих фахівців, які працюватимуть не лише зі стандартними сценаріями, а й з крайовими випадками, що «можуть загнати вас у серйозні проблеми, про які люди навіть не думають». А така робота потребує часу. «Розумних універсалів тут буде недостатньо».