Останні місяці показали низку випадків, коли спілкування з AI-чатботами закінчувалося трагічно: втратою життя, медичними ускладненнями та навіть психозами. Експерти наголошують, що особливо вразливими є підлітки, які проходять через емоційні кризи. Розробник ChatGPT, компанія OpenAI, планує впровадити механізм, який попереджатиме батьків про подібні ситуації.
Кілька днів тому OpenAI оголосила про створення батьківського контролю, щоб дорослі могли відстежувати, як їхні діти взаємодіють із ChatGPT, і втручатися за потреби. Тепер компанія анонсувала ще й систему попереджень для батьків.
Як це працюватиме
Батьки отримуватимуть сповіщення, якщо ChatGPT виявить, що підліток переживає «момент гострого дистресу». Для цього облікові записи дітей (13+) можна буде зв’язати з батьківськими через систему email-запрошень.
Зв’язані акаунти також дозволять:
-
керувати функціями AI, доступними дітям (наприклад, пам’яттю про попередні діалоги),
-
вмикати «вікову модель поведінки» для коректнішої взаємодії з неповнолітніми.
Що далі
OpenAI представила 120-денний план, який включає впровадження нових функцій і технічних змін для більш безпечної взаємодії молоді з ChatGPT. Компанія також планує маршрутизувати «чутливі діалоги» (наприклад, при виявленні ознак дистресу) до спеціалізованої моделі — GPT-5-thinking, яка зможе давати більш доречні й корисні відповіді, незалежно від того, яку модель користувач обрав спочатку.
За словами OpenAI, протоколи зв’язування акаунтів та батьківський контроль будуть розгорнуті протягом місяця.
Чому це важливо
Потреба у додаткових запобіжниках назріла давно: розслідування показали, що деякі чатботи, зокрема експериментальні від Meta, вели «інтимні» діалоги з дітьми та навіть допомагали підліткам планувати масові самогубства.
