OpenAI, одна з провідних компаній у сфері штучного інтелекту, оголосила у вівторок, що розпочала тренування нової флагманської моделі штучного інтелекту, яка стане наступницею технології GPT-4, що приводить у дію популярного чат-бота ChatGPT.
Стартап із Сан-Франциско заявив у своєму блозі, що очікує, що нова модель принесе “новий рівень можливостей”, оскільки компанія прагне створити “штучний загальний інтелект” (AGI), машину, яка зможе виконувати будь-які завдання, що здатний виконати людський мозок. Нова модель стане основою для продуктів штучного інтелекту, включаючи чат-ботів, цифрових асистентів на зразок Siri від Apple, пошукові системи та генератори зображень.
OpenAI також оголосила про створення нового Комітету з безпеки та захисту для дослідження, як компанія повинна справлятися з ризиками, що виникають через нову модель та майбутні технології.
“Ми пишаємося тим, що створюємо та випускаємо моделі, які є лідерами галузі як за можливостями, так і за безпекою, і ми вітаємо активні дебати на цьому важливому етапі”, – заявила компанія.
OpenAI прагне просувати технологію штучного інтелекту швидше, ніж її конкуренти, водночас задовольняючи критиків, які стверджують, що технологія стає дедалі небезпечнішою, сприяючи поширенню дезінформації, замінюючи робочі місця та навіть загрожуючи людству. Експерти розходяться у думках щодо того, коли технологічні компанії досягнуть штучного загального інтелекту, але компанії, включаючи OpenAI, Google, Meta та Microsoft, понад десять років послідовно підвищують потужність технологій штучного інтелекту, демонструючи помітний стрибок приблизно кожні два-три роки.
GPT-4 від OpenAI, який був випущений у березні 2023 року, дозволяє чат-ботам та іншим програмам відповідати на запитання, писати електронні листи, генерувати курсові роботи та аналізувати дані. Оновлена версія технології, яка була представлена цього місяця і ще не є широко доступною, також може генерувати зображення та відповідати на запитання та команди в дуже розмовному тоні.
Через кілька днів після показу оновленої версії — названої GPT-4o — актриса Скарлетт Йоханссон заявила, що вона використовує голос, який “моторошно схожий на мій”. Вона повідомила, що відхилила спроби генерального директора OpenAI, Сема Альтмана, ліцензувати її голос для продукту і що вона найняла адвоката та попросила OpenAI припинити використовувати цей голос. Компанія заявила, що голос не належить пані Йоханссон.
Такі технології, як GPT-4o, набувають своїх навичок, аналізуючи величезну кількість цифрових даних, включаючи звуки, фотографії, відео, статті з Вікіпедії, книги та новинні матеріали. У грудні The New York Times подала позов проти OpenAI та Microsoft, звинувачуючи їх у порушенні авторських прав на новинний контент, пов’язаний із системами штучного інтелекту.
Цифрове “тренування” моделей штучного інтелекту може займати місяці або навіть роки. Після завершення тренування компанії зазвичай витрачають ще кілька місяців на тестування технології та її налаштування для публічного використання.
Поки OpenAI тренує свою нову модель, новий Комітет з безпеки та захисту працюватиме над вдосконаленням політик і процесів для забезпечення безпеки технології, зазначила компанія. До складу комітету входять пан Альтман, а також члени ради директорів OpenAI Брет Тейлор, Адам Д’Анджело та Ніколь Селігман. Компанія зазначила, що нові політики можуть бути впроваджені наприкінці літа або восени.
На початку цього місяця OpenAI повідомила, що Ілля Суцкевер, співзасновник і один з керівників її зусиль з безпеки, залишає компанію. Це викликало занепокоєння тим, що OpenAI недостатньо бореться з небезпеками, які виникають через штучний інтелект.
Др. Суцкевер приєднався до трьох інших членів ради директорів у листопаді, щоб усунути пана Альтмана з OpenAI, заявивши, що пан Альтман більше не може бути довірений планам компанії зі створення штучного загального інтелекту на благо людства. Після лобістської кампанії союзників пана Альтмана він був відновлений на посаді через п’ять днів і з тих пір знову взяв під контроль компанію.
Др. Суцкевер очолював те, що OpenAI називала своєю командою з суперузгодження, яка досліджувала способи забезпечення того, щоб майбутні моделі штучного інтелекту не завдавали шкоди. Як і інші в цій галузі, він дедалі більше переймався тим, що штучний інтелект становить загрозу для людства.
Ян Лейке, який керував командою з суперузгодження разом з др. Суцкевером, також пішов з компанії цього місяця, залишивши майбутнє команди під питанням.
OpenAI включила свої довгострокові дослідження безпеки у свої більші зусилля для забезпечення безпеки своїх технологій. Цю роботу очолить Джон Шульман, ще один співзасновник, який раніше очолював команду, що створила ChatGPT. Новий комітет з безпеки контролюватиме дослідження др. Шульмана та надаватиме рекомендації щодо того, як компанія буде справлятися з технологічними ризиками.
