OpenAI, одна из ведущих компаний в области искусственного интеллекта, объявила во вторник, что начала обучение новой флагманской модели искусственного интеллекта, которая станет преемником технологии GPT-4, приводящей в действие популярного чат-бота ChatGPT.
Стартап из Сан-Франциско заявил в своем блоге, что ожидает, что новая модель принесет «новый уровень возможностей», так как компания стремится создать «искусственный общий интеллект» (AGI), машину, которая сможет выполнять любые задачи, которые способен выполнять человеческий мозг. Новая модель станет основой для продуктов искусственного интеллекта, включая чат-ботов, цифровых ассистентов наподобие Siri от Apple, поисковые системы и генераторы изображений.
OpenAI также объявила о создании нового Комитета по безопасности и защите для исследования, как компания должна справляться с рисками, возникающими из-за новой модели и будущих технологий.
«Мы гордимся тем, что создаем и выпускаем модели, которые являются лидерами отрасли как по возможностям, так и по безопасности, и мы приветствуем активные дебаты на этом важном этапе», — заявила компания.
OpenAI стремится продвигать технологию искусственного интеллекта быстрее, чем ее конкуренты, одновременно удовлетворяя критиков, которые утверждают, что технология становится все более опасной, способствуя распространению дезинформации, замещению рабочих мест и даже угрожая человечеству. Эксперты расходятся во мнениях относительно того, когда технологические компании достигнут искусственного общего интеллекта, но компании, включая OpenAI, Google, Meta и Microsoft, более десяти лет последовательно повышают мощность технологий искусственного интеллекта, демонстрируя заметный скачок примерно каждые два-три года.
GPT-4 от OpenAI, который был выпущен в марте 2023 года, позволяет чат-ботам и другим программам отвечать на вопросы, писать электронные письма, генерировать курсовые работы и анализировать данные. Обновленная версия технологии, которая была представлена в этом месяце и еще не является широко доступной, также может генерировать изображения и отвечать на вопросы и команды в очень разговорном тоне.
Через несколько дней после показа обновленной версии — названной GPT-4o — актриса Скарлетт Йоханссон заявила, что она использует голос, который «жутко похож на мой». Она сообщила, что отклонила попытки генерального директора OpenAI, Сэма Альтмана, лицензировать ее голос для продукта и что она наняла адвоката и попросила OpenAI прекратить использование этого голоса. Компания заявила, что голос не принадлежит мисс Йоханссон.
Такие технологии, как GPT-4o, приобретают свои навыки, анализируя огромное количество цифровых данных, включая звуки, фотографии, видео, статьи из Википедии, книги и новостные материалы. В декабре The New York Times подала иск против OpenAI и Microsoft, обвиняя их в нарушении авторских прав на новостной контент, связанный с системами искусственного интеллекта.
Цифровое «обучение» моделей искусственного интеллекта может занимать месяцы или даже годы. После завершения обучения компании обычно тратят еще несколько месяцев на тестирование технологии и ее настройку для публичного использования.
Пока OpenAI обучает свою новую модель, новый Комитет по безопасности и защите будет работать над усовершенствованием политик и процессов для обеспечения безопасности технологии, отметила компания. В состав комитета входят мистер Альтман, а также члены совета директоров OpenAI Брет Тейлор, Адам Д’Анджело и Николь Селигман. Компания отметила, что новые политики могут быть внедрены в конце лета или осенью.
В начале этого месяца OpenAI сообщила, что Илья Суцкевер, соучредитель и один из руководителей ее усилий по обеспечению безопасности, покидает компанию. Это вызвало обеспокоенность тем, что OpenAI недостаточно борется с опасностями, возникающими из-за искусственного интеллекта.
Др. Суцкевер присоединился к трем другим членам совета директоров в ноябре, чтобы устранить мистера Альтмана из OpenAI, заявив, что мистер Альтман больше не может быть доверен планам компании по созданию искусственного общего интеллекта на благо человечества. После лоббистской кампании союзников мистера Альтмана он был восстановлен на посту через пять дней и с тех пор вновь взял под контроль компанию.
Др. Суцкевер возглавлял то, что OpenAI называла своей командой по супервыравниванию, которая исследовала способы обеспечения того, чтобы будущие модели искусственного интеллекта не причиняли вред. Как и другие в этой области, он все больше беспокоился о том, что искусственный интеллект представляет угрозу для человечества.
Ян Лейке, который возглавлял команду по супервыравниванию вместе с др. Суцкевером, также ушел из компании в этом месяце, оставив будущее команды под вопросом.
OpenAI включила свои долгосрочные исследования безопасности в свои большие усилия для обеспечения безопасности своих технологий. Эту работу возглавит Джон Шульман, еще один соучредитель, который ранее возглавлял команду, создавшую ChatGPT. Новый комитет по безопасности будет контролировать исследования др. Шульмана и предоставлять рекомендации по тому, как компания будет справляться с технологическими рисками.
