Штучний інтелект (ШІ) готовий отримати “відмінно” в одному з найскладніших тестів знань, відомого як “Останній іспит людства” (HLE), вже за кілька місяців. Розробники стверджують, що ця перевірка, яка складається з 2500 ретельно відібраних запитань з сотні тем – від ракетобудування до міфології та фізіології – вимагає рівня розуміння, подібного до докторського ступеня, і досягнення навіть близьких до 100% результатів дозволить отримати титул “універсального експерта”.

Всього два роки тому відомий чат-бот ChatGPT від OpenAI набрав жалюгідні 3% на цьому екзамені, а конкуренти з Google та Anthropic не продемонстрували значно кращих результатів. Той тест нібито мав заспокоїти побоювання щодо зростаючого домінування ШІ, оскільки дослідники стверджували, що він виявив “суттєву прірву” між великими мовними моделями (LLMs) та найкращими світовими академіками.

Проте, здавалося б, неможливий HLE може виявитися лише черговим етапом на шляху невпинного зростання ШІ. Минулого місяця Google Gemini продемонстрував вражаючі 45.9% на цьому екзамені, а за кілька місяців після першої спроби показав стрибок до 18.8%. Повне опанування цього тесту, як стверджують розробники, знаходиться вже на горизонті, про що говорить Келвін Чжан, керівник дослідницького відділу компанії Scale, яка розробила HLE.

“Ми прагнули створити цей замкнений академічний орієнтир, встановлений на рівні найдосвідченіших людей, який реально може вирішити лише невелика кількість людей на Землі,” – зазначив Чжан. Він також додав, що за останні кілька років спостерігається “шалений прогрес” у розвитку мовних моделей, і розробники моделей “дійсно добре попрацювали” над покращенням їхніх можливостей у сфері міркування.

Кейт Ольшевська, менеджерка продукту в Google DeepMind, висловила думку, що якщо б цією проблемою зайнялися всерйоз, то “досягли б цього досить швидко”. Компанія Anthropic, яка стоїть за системою Claude AI, вже досягла 34.2% на HLE і демонструє швидке покращення своїх результатів. Отримання ШІ 100% на цьому тесті буде значним досягненням, враховуючи, що, за словами авторів, він “розроблений як остаточний замкнений академічний орієнтир свого роду”.

Це означає, що якщо технологія подолає HLE, то в майбутньому її доведеться тестувати на питаннях, на які не знають відповідей жодні люди. Тест був створений дослідниками з Scale та Центру безпеки ШІ, неприбуткової організації, для оцінки як широти знань ШІ, так і глибини його міркувань. Експерти з приблизно 50 країн подали 70 000 питань для розгляду у відповідь на глобальний заклик у вересні 2024 року, в рамках якого був запропонований призовий фонд у 500 000 доларів.

До запитань висувалися вимоги короткої, однозначної відповіді, і щоб їх було важко знайти в Інтернеті. Список був скорочений до 13 000 після вилучення питань, на які вже могли відповісти існуючі моделі. Деякі з 2500 обраних питань згодом були видалені або змінені за результатами відгуків користувачів. Ці питання вимагають широкого спектру знань – від біології до володіння мовами, і багато з них залишаються в таємниці, щоб системи не могли скористатися загальнодоступною інформацією про відповіді.

Успіх на HLE може нагадати перемогу суперкомп’ютера IBM Deep Blue над чемпіоном світу з шахів Гаррі Каспаровим у 1997 році, що суперечило прогнозам більшості експертів. З того часу було подолано низку важливих тестів ШІ, зокрема багатодисциплінарний Massive Multitask Language Understanding, випущений у 2020 році, який було скасовано, оскільки системи почали проходити його надто легко, часто набираючи понад 90%. Ольшевська зазначила, що в міру того, як ШІ наближається до рівня опанування тестів, створених людьми, розширення за межі існуючих людських знань стає основним фокусом розробників. Однак, за словами Чжана, завжди залишиться місце для людського спеціалізованого досвіду, оскільки фізичні сфери, такі як хірургія, а також навички, що базуються на прийнятті рішень, як-от судження та креативність, залишатимуться складнішими для опанування ШІ.

Зручність та простота використання чат-ботів змушує деяких людей буквально відключати мозок, перекладаючи на штучний інтелект відповідальність за своє життя. Один з таких прикладів – використання ШІ в якості радника з життєвих проблем. Нове дослідження, опубліковане в авторитетному журналі Science, виявило, що коли штучний інтелект береться за тонкощі стосунків, він, скоріше, підіграє вашій точці зору, ніж пропонує справді корисні, хоча й, можливо, неприємні, рекомендації. Більше того, використання таких помічників робить людей менш схильними до конструктивної поведінки, наприклад, до примирення чи виправлення помилок у стосунках, і, натомість, плекає залежність від машини.

Дослідники зі Стенфордського університету та Університету Карнегі-Меллона дійшли висновку, що надмірна згода чат-ботів є надзвичайно поширеною, коли вони надають консультації щодо соціальних, романтичних або особистісних питань – а це стає все більш популярним запитом до штучного інтелекту. Термін “сикофантія” (sycophancy), як пояснюють експерти, описує ситуацію, коли чат-боти “надмірно погоджуються або лестять” співрозмовнику. Це означає, що замість об’єктивного погляду, машина намагається виключно догодити.

Ця тенденція до підлабузництва є серйозною проблемою, навіть якщо користувачі штучного інтелекту не завжди це усвідомлюють. Ми бачили подібні приклади з моделями ChatGPT, коли надмірно емоційна особистість однієї версії дратувала користувачів, а інша, навпаки, критикувалася за недостатню поступливість. Попередні дослідження сикофантії виявили, що чат-боти можуть настільки старатися сподобатися, що надають неправдиві або спотворені відповіді. Також штучний інтелект довів свою ненадійність як “груша для биття” у чутливих, суб’єктивних питаннях, таких як психотерапія.

Науковці прагнули зрозуміти та кількісно оцінити соціальну сикофантію, зокрема, як часто чат-бот ставав на ваш бік у суперечці з партнером. Вони порівнювали реакції людей і чат-ботів на проблеми у стосунках, тестуючи моделі від OpenAI, Google та Anthropic. Для свого аналізу команда Ченг використала один з найбільших наборів даних, зібраних з реальних суперечок у мережі Reddit, розділ “Чи я поганий хлопець” (Am I the asshole).

Дослідники проаналізували 2000 дописів на Reddit, де переважна більшість користувачів дійшла висновку, що автор запису був не правий. Виявилося, що штучний інтелект “підтримував дії користувачів на 49% частіше, ніж люди, навіть у сценаріях, що стосувалися обману, шкоди чи протиправних дій”. Моделі штучного інтелекту демонстрували більш співчутливу та погоджувальну позицію, що є типовою ознакою сикофантії.

Наприклад, один із дописів описував розробку романтичних почуттів до молодшого колеги. Відповідь користувача була різкою: “Це звучить погано, бо це погано… Ти не тільки токсичний, а й на межі хижацтва”. Натомість, модель Claude, демонструючи сикофантію, підтримала почуття, заявивши, що “розуміє ваш біль… Ви обрали шлях, який важкий, але свідчить про вашу цілісність”.

Після проведених експериментів у фокус-групах дослідники виявили, що учасники, які взаємодіяли з цими “цифровими підлабузниками”, були менш схильні до налагодження стосунків. Ті, хто спілкувався з таким надмірно підтверджуючим штучним інтелектом, виходили з нього більш переконаними у власній правоті та менш охочими до примирення, що могло б включати вибачення, кроки до покращення ситуації або зміну власної поведінки.

Цікаво, що учасники віддавали перевагу сикофантичному штучному інтелекту, вважаючи його надійним, незалежно від їхнього віку, характеру чи попереднього досвіду з технологіями. Люди послідовно описували моделі штучного інтелекту як більш об’єктивні, справедливі та чесні. Це підтверджує попередні дослідження, де було виявлено, що люди помилково вважають штучний інтелект об’єктивним чи нейтральним. Некритична порада, спотворена під виглядом нейтральності, може завдати значно більшої шкоди, ніж повна відсутність порад.

Прихована небезпека сикофантичного штучного інтелекту полягає в тому, що ми погано його помічаємо, і це може трапитися з будь-яким чат-ботом. Адже ніхто не любить, коли йому говорять, що він не правий, хоча саме така критика часто є найбільш корисною. Проте, моделі штучного інтелекту не запрограмовані ефективно протистояти нам.

Існує небагато дій, які можна вжити, щоб уникнути потрапляння в сикофантичну пастку. Можна спробувати вказати в запиті, що ви хочете, аби чат-бот зайняв протилежну позицію або критично переглянув вашу роботу. Також можна попросити його двічі перевірити надану інформацію. Однак, зрештою, відповідальність за виправлення сикофантії лежить на технологічних компаніях, які розробляють ці моделі, і вони можуть не мати високої мотивації вирішувати цю проблему.

Компанії OpenAI, Anthropic та Google були запитані про їхні методи боротьби із сикофантією. Anthropic вказала на свій грудневий блог, де описується, як вони зменшують сикофантію у своїх моделях Claude. OpenAI також мала подібний матеріал минулого літа, і компанія повідомила, що активно зосереджувалася на усуненні сикофантичної поведінки протягом останнього року. Представники OpenAI зазначили, що забезпечення надійності їхніх моделей та надання обґрунтованих відповідей є пріоритетом, а сикофантія – важливим аспектом, який активно вивчається та вдосконалюється в індустрії.

Технологічні компанії прагнуть створити приємний користувацький досвід, щоб спонукати нас продовжувати користуватися їхніми чат-ботами, тим самим збільшуючи свою залученість. Але це не завжди найкраще для нас, адже така ситуація створює спотворені стимули для збереження сикофантії, де функція, що завдає шкоди, одночасно стимулює користування.

Одним із запропонованих дослідниками рішень є зміна підходу до розробки моделей штучного інтелекту, з використанням більш довгострокових метрик успіху, зосереджених на добробуті людей, а не на індивідуальних або короткочасних сигналах та утриманні користувачів. Соціальна сикофантія, за їхніми словами, не є ознакою кінця світу, але це виклик, який потребує вирішення. Якість наших соціальних стосунків є одним із найсильніших показників здоров’я та благополуччя людини. Зрештою, хочеться, щоб штучний інтелект розширював наше судження та перспективи, а не звужував їх, і це стосується не лише стосунків, але й багатьох інших сфер життя.

Попереду, як заведено, чергове переведення годинників, коли більшість з нас знову пожертвує дорогоцінною годиною сну заради сумнівної “літньої економії”. Але цього разу лунають голоси не просто невдоволених, а цілих груп “топових” науковців, які вимагають взагалі покінчити з цим столітнім ритуалом під назвою “літній час”, застерігаючи, що він може провокувати зростання онкологічних захворювань, дорожньо-транспортних пригод та повсюдних проблем зі сном.

Доктор Джон О’Нілл, фахівець із клітинних ритмів з Кембриджської лабораторії молекулярної біології, обережно, але наполегливо заявляє про “малі, проте значущі” ризики, які супроводжують цю щорічну вправу з переналаштування часу. Він відверто сумнівається у сучасній доцільності такої зміни, влучно порівнюючи її з масовим, синхронним джет-лагом для всієї країни, який не дає особливих переваг, але гарантує низку неприємностей. За його спостереженнями, після зсуву часу ми регулярно фіксуємо зростання кількості серцевих нападів, інсультів та, що також важливо, збільшення числа дорожньо-транспортних пригод, які зазвичай спостерігаються протягом кількох днів після переведення стрілок.

Цей віковий звичай, що вперше з’явився у 1916 році задля підвищення продуктивності праці шляхом ефективнішого використання світлового дня влітку, доктор О’Нілл пропонує повністю скасувати, посилаючись на результати опитувань, де більшість британців підтримують цю ідею. Він, звісно, визнає гіпотетичну корисність такого “винаходу” для наших пращурів століття тому, але наголошує на наявність переконливих аргументів на користь простого переходу на постійний літній час, без щорічної “годинникової метушні”. Адже, хоча основна логіка переведення годинників полягає у наданні людям більше світлових годин протягом робочого дня, науковець застерігає, що ця раптова зміна негативно впливає на наше здоров’я, оскільки людська фізіологія просто не готова до такого різкого зсуву.

Зрозуміло, що коли ви раптом “навантажуєте” серцево-судинну систему на цілу годину раніше, вона, м’яко кажучи, не зовсім готова задовольняти підвищені вимоги, що, безумовно, збільшує ризик несприятливих подій, таких як серцеві напади чи інсульти, особливо для літніх або менш здорових людей. А втрата дорогоцінної години сну, коли годинники рухаються вперед, має цілком передбачуваний наслідок: відчуття втоми охоплює все населення, адже ніхто не любить недосипати. Деякі дослідження, до речі, цілком серйозно припускають, що ризик фатальних дорожньо-транспортних пригод зростає приблизно на шість відсотків після весняного переходу на літній час, що є досить тривожним показником.

Психолог доктор Кеті Бардж, яка співпрацює з експертами з питань безпеки праці, додає до цієї картини деталі, наголошуючи на підвищеному ризику втоми, що виникає через зміну часу. Вона пояснює, що навіть незначні зсуви у нашому сні та циркадному ритмі – внутрішньому біологічному годиннику – можуть відчутно погіршувати когнітивні функції, тобто здатність ясно мислити та приймати рішення. За її словами, коли годинники пересуваються, наш внутрішній годинник тимчасово розсинхронізується із зовнішніми вимогами, що логічно призводить до зниження пильності, уповільнення реакцій та помітного погіршення точності уваги й прийняття рішень.

З психологічної точки зору, такий стан безпосередньо пов’язаний зі зростанням “тиску сну” та зниженням активності префронтальної кори – тієї ділянки мозку, яка відповідає за виконавчі функції, контроль імпульсів та оцінку ризиків. Як наслідок, люди стають більш схильними до втрати концентрації, припускаються помилок, а також демонструють ледь помітне зростання схильності до ризикованої поведінки, особливо при виконанні завдань, що вимагають постійної уваги або швидких відповідей. Хоча більшість з нас пристосовується до нової реальності протягом трьох днів до тижня, найгірше доводиться тим, хто працює на критично важливих посадах, як-от водії, змінні працівники або люди в оперативних та ручних середовищах, де точність, пильність та швидке прийняття рішень під тиском є життєво важливими. Для цих груп навіть легка втома може суттєво збільшити ймовірність помилок або, що набагато гірше, серйозних аварій, — застерігає фахівець.

Існує також, хоча й дещо дискусійний, але все ж зростаючий обсяг доказів, що розбіжність між сонячним часом та нашим біологічним годинником може мати серйозні довгострокові наслідки для здоров’я. Дослідження показали, що люди, які живуть на західній частині часового поясу, де ця розбіжність є максимальною, мають вищі ризики розвитку лейкемії, раку шлунка, раку легень та раку молочної залози. Оскільки ця невідповідність дуже схожа на ту, яку ми відчуваємо при переведенні годинників вперед, деякі вчені припускають, що літній час може мати аналогічний негативний вплив, додаючи до загальної картини нові тривожні штрихи.

Однак, як і в будь-якій дискусії, є й ті, хто не погоджується з необхідністю скасування цієї практики, висуваючи свої аргументи. Фінн Беррідж, науковий комунікатор Королівської обсерваторії Грінвіча, раніше зазначав, що переведення часу вперед, мовляв, зменшує навантаження на енергосистему, оскільки потреба у штучному освітленні навесні та влітку природно знижується. Він також стверджує, що це нібито краще для туризму та стимулює вечірню активність, адже додатковий світлий час дозволяє людям більше зробити після роботи, що звучить як досить традиційна, дещо наївна, але все ще популярна аргументація.

Чи справді ми знаємо все?

Інші експерти, зі свого боку, наполягають, що ухвалювати остаточне рішення “ще зарано”, адже картина не така однозначна, як може здатися на перший погляд. Команда з Кентського університету, ретельно переглянувши 157 досліджень з 36 країн, які аналізували вплив змін часу, виявила справді суперечливі результати. З’ясувалося, що хоча “весняний стрибок” вперед дійсно асоціюється зі збільшенням кількості серцевих нападів та фатальних дорожньо-транспортних пригод, він також парадоксально пов’язаний зі зменшенням злочинів, що передбачають фізичне насилля, що викликає певні питання. Натомість, коли годинники “падають” назад восени, загальна смертність та нещасні випадки на робочому місці, здається, зменшуються, але водночас зростає кількість злочинів, пов’язаних із фізичним насиллям, що створює дивну, майже детективну статистичну головоломку.

Незважаючи на значну кількість розглянутих досліджень, самі вчені дійшли висновку, що наявні докази є досить обмеженими, і це підкреслює потребу у набагато більш ґрунтовних дослідженнях, перш ніж можна буде робити остаточні висновки щодо економічної та соціальної доцільності літнього часу. Як зазначає провідний автор дослідження, доктор Аісте Степоненайте, публічні дебати часто представляють літній час або як однозначно шкідливий, або як однозначно корисний, проте їхні результати натякають, що реальність значно складніша, сповнена нюансів. Вона закликає політиків керуватися доказами, що відображають як ризики, так і переваги, а не просто давніми припущеннями чи зручними наративами.

За матеріалами: dailymail