Искусственный интеллект ChatGPT от OpenAI способен отвечать на вопросы, отыскивая ответы на сайтах в интернете. Однако архитектура этих онлайн-запросов может походить на DDoS-атаку. Эксперты говорят, что злоумышленник может использовать желание искусственного интеллекта ответить на вопросы пользователя для организации направленной атаки.

В статье, опубликованной на GitHub, Бенджамин Флэш, исследователь безопасности из Германии, объясняет, как один HTTP-запрос к программному интерфейсу ChatGPT API можно использовать для заполнения целевого веб-сайта сетевыми запросами от сканера ChatGPT.

Этого потока соединений может быть достаточно, а может и недостаточно, чтобы разрушить выбранный сайт. Хотя это все еще опасность и определенное упущение OpenAI. Его можно использовать для расширения одного запроса API на 20-5000 или более запросов к выбранному веб-сайту жертвы ежесекундно, снова и снова.

«API ChatGPT демонстрирует серьезный дефект качества при обработке запросов HTTP POST на https://chatgpt.com/backend-api/attributions», — объясняет Флэш в своем совете, ссылаясь на конечную точку API, которую вызывает ChatGPT для возвращения информации об использованных ним веб-источники.

Когда ChatGPT упоминает определенные веб-сайты, он вызовет attributions со списком URL этих сайтов, к которым сканер может получить доступ и получить информацию.

Если вы бросите в API большой длинный список URL, каждый из которых несколько отличается, но все указывают на один сайт, сканер включится и поразит каждый из них одновременно.

«API ожидает список гиперссылок в параметре URL. Общеизвестно, что гиперссылку на один и тот же сайт можно записать многими разными способами», — написал Флэш. «Из-за неправильной практики программирования OpenAI не проверяет, появляется ли гиперссылка на тот же ресурс в списке несколько раз. OpenAI также не ограничивает максимальное количество ссылок, хранящихся в параметре urls, что позволяет передавать многие тысячи гиперссылок в одном запросе HTTP».

Таким образом, используя такой инструмент, как Curl, злоумышленник может отправить HTTP-запрос POST – без необходимости в маркере аутентификации – в конечную точку ChatGPT. А серверы OpenAI в облаке Microsoft Azure будут отвечать, инициируя HTTP-запрос для каждой гиперссылки, поданной через urls-параметр в запросе. Когда эти запросы направляются на один веб-сайт, они могут перегрузить цель, вызывая симптомы DDoS-атаки.

«Жертва никогда не узнает, что ее постигло, потому что она видит, как бот ChatGPT поражает их веб-сайт одновременно с примерно 20 разными IP-адресами», — сказал Флэш, добавив, что если жертва включит файрвол для блокировки диапазона IP-адресов , использующий ChatGPT, бот все равно будет посылать запросы.

Таким образом, один неудачный/заблокированный запрос не помешает боту ChatGPT повторно запросить сайт-жертву в течение следующей миллисекунды.

«Благодаря этому усилению злоумышленник может послать небольшое количество запросов в ChatGPT API, но жертва получит очень большое количество запросов», — объяснил Флэш.

Флэш говорит, что он сообщил об этой неаутентифицированной рефлексивной уязвимости DDoS через многочисленные каналы – платформу отчетов об уязвимости BugCrowd OpenAI, электронную почту команды безопасности OpenAI, Microsoft (включая Azure) и HackerOne – но не получил ответа.

Флэш сомневался, почему бот OpenAI не реализовал простые, устоявшиеся методы для надлежащего удаления дубликатов URL-адресов в запрашиваемом списке или ограничения размера списка.

«Все это небольшие фрагменты логики проверки, которые люди внедряли в свое программное обеспечение на протяжении многих лет, чтобы предотвратить подобные злоупотребления», — говорит он.

Google работает над уведомлением о достижении полного заряда Bluetooth-наушников. Анализ строк кода, связанного с будущей функцией, свидетельствуют о том, что функция может работать со всеми наушниками с поддержкой технологии быстрого подключения Fast Pair.

В конце прошлого года Google выпустил удобную функцию для пользователей смарт-часов Pixel Watch, которая посылает уведомления, когда подключенные часы достигают 100% заряда.

Новые строки кода, отмеченные в бета-версии Google Play Services версии 25.03.32, свидетельствуют о том, что компания вскоре сможет ввести аналогичную функцию для наушников с поддержкой Fast Pair, извещая пользователей, когда их зарядный чехол полностью заряжен.

Эта функция все еще разрабатывается и не включается в текущем выпуске Google Play Services. Однако можно с уверенностью предположить, что оно будет работать как уведомление о полной зарядке Pixel Watch.

Пользователи должны увидеть уведомления на своих телефонах, когда чехол для зарядки наушников достигает 100% заряда, и уведомление автоматически исчезнет, ??когда чехол будет отключен от зарядного устройства.

Следует отметить, что поскольку Google реализует эту функцию через Play Services, она должна работать со всеми наушниками с поддержкой Fast Pair, а не с линейкой Google Pixel Buds. В случае Pixel Watch компания реализовала уведомление о полной зарядке через приложение Google Pixel Watch, сделав его эксклюзивным для своей линейки умных часов.

У Android уже есть функция, которая извещает пользователя, когда его наушники с поддержкой Fast Pair и их зарядный чехол разряжаются.

Уже скоро можно будет вести содержательный разговор со своим телевизором, если это Samsung. Samsung и OpenAI сотрудничают над телевизором с искусственным интеллектом ChatGPT.

Телевизоры Samsung работают на собственной ОС Tizen, и корейская компания уже представила для них несколько функций искусственного интеллекта, например AI Upscaling, AI Sounds, Vision AI. Vision AI может производить такие действия, как «видеть», какое блюдо на экране, находить вам рецепты его приготовления, а затем ссылаться на пищевое приложение Samsung. Он также может делать живой перевод.

Интеграция Samsung ChatGPT в ассортимент телевизоров может показаться неожиданной, но это имеет стратегический смысл. Этот шаг произошел, поскольку Google собирается добавить Gemini AI в свою операционную систему Google TV, чтобы вы могли разговаривать с телевизором без необходимости в пульте дистанционного управления.

Анонсированный на выставке CES 2025 Google TV является преемником Android TV, но имеет более чистый интерфейс, лучшие рекомендации для телевизионных программ, а также встроенный Gemini, так что вы можете активировать его с помощью голосового управления Hey Google и просто произносить свои запросы вместо того, чтобы использовать пульт от телевизора.

Ожидается, что устройства Google TV следующего поколения выйдут на рынок в конце 2025 года, поэтому мы можем представить подобные сроки для сотрудничества OpenAI и Samsung.

Ученые только воскресили ELIZA, первый в мире чат-бот. Исследователи обнаружили давно утраченный компьютерный код и использовали его, чтобы возродить раннего чат-бота ELIZA. ELIZA была разработана в 1960-х годах профессором Массачусетского технологического института Джозефом Вейзенбаумом и названа в честь Элизы Дулиттл, героини пьесы «Пигмалион», которую научили говорить как аристократическая британская женщина.

Используя запыленные распечатки из архивов Массачусетского технологического института, эти «археологи программного обеспечения» обнаружили недействующий код, потерянный в течение 60 лет, и вернули его к жизни (https://sites.google.com/view/elizaarchaeology/try-eliza) .

ELIZA оказала большое влияние на современный искусственный интеллект (ИИ), пишут исследователи в статье, опубликованной в базе данных препринтов arXiv. Сценарий «ДОКТОР», написанный для ЭЛИЗЫ, был запрограммирован отвечать на вопросы как психотерапевт. Например, ЭЛИЗА сказала бы: «Пожалуйста, расскажите мне о своей проблеме». Если пользователь введет «Все мужчины одинаковы», программа ответит «Каким образом».

Вайзенбаум написал ELIZA на созданном им уже несуществующем языке программирования под названием Michigan Algorithm Decoder Symmetric List Processor (MAD-SLIP), но его почти сразу скопировали на язык Lisp. С появлением раннего интернета Lisp-версия ELIZA стала вирусной и оригинальная версия устарела.

Эксперты считали, что оригинальный 420-строчный код ELIZA был потерян до 2021 года, когда соавтор исследования Джефф Шрагер, ученый-когнитивист из Стэнфордского университета, и Майлз Кроули, архивариус Массачусетского технологического института, нашли его среди документов Вэй.

«Меня особенно интересует то, как мыслили первые пионеры искусственного интеллекта», — сказал Шрагер в электронном письме Live Science. «Иметь код компьютерщиков — это то же, что иметь запись их мнений, и поскольку ЭЛИЗА была — и остается, к лучшему или к худшему — пробным камнем раннего ИИ, я хочу знать, что было в его голове». Но почему команда хотела заставить ELIZA работать сложнее, сказал он.

«С технической точки зрения мы даже не знали, что код, который мы нашли – единственная версия, которую когда-либо обнаружили – на самом деле работает», – сказал Шрагер. Они поняли, что должны попробовать.

Вернуть ЭЛИЗУ в жизнь было непросто. Это требовало от команды очистки и настройки кода и создания эмулятора, приближающегося к типу компьютера, на котором работала ELIZA в 1960-х годах. После восстановления кода команда запустила ELIZA – впервые за 60 лет.

«Запустив его, мы продемонстрировали, что это фактически часть настоящей линии ELIZA и что она не только работает, но работает очень хорошо», — сказал Шрагер.

Но команда также обнаружила ошибку в коде, которую они решили не исправлять. «Это разрушило бы подлинность артефакта, — объяснил Шрагер, — как исправить ошибку в оригинальной Мони Лиге». Программа выходит из строя, если пользователь вводит число, например, «Сегодня тебе 999», – пишут они в исследовании.

Несмотря на то, что ELIZA должна была быть исследовательской платформой для общения между человеком и компьютером, «ELIZA была такой новинкой того времени, что ее «чат-бот» перевесил его исследовательские цели», — сказал Шрагер.

Это наследие сохраняется и сегодня, поскольку ELIZA часто сравнивают с текущими большими языковыми моделями (LLM) и другим искусственным интеллектом.

Она не сравнится с возможностями современных LLM, таких как ChatGPT. «ELIZA действительно великолепна, если учесть, что она была написана в 1965 году», – Дэвид Берри, профессор цифровых гуманитарных наук Университета Сассекса в Великобритании. «Она может некоторое время держаться в разговоре».

Единственная вещь, которую ELIZA сделала лучше, чем современные чат-боты, сказал Шрагер, это слушать. Современные LLM только пытаются закончить ваши предложения, в то время как ELIZA запрограммирована на то, чтобы предложить пользователю продолжить разговор. «Это больше похоже на то, что такое разговор, чем любой чат-бот сейчас, — сказал Шрагер.

«Возвращение ELIZA, одного из самых известных — если не самых известных — чат-ботов в истории, открывает людям глаза на теряемую историю», — сказал Берри. Поскольку отрасль информатики столь дальновидна, практики склонны считать ее историю устаревшей и не сохраняют ее.

Однако Берри считает, что история компьютеров также история культуры.

«Мы должны больше работать как общество, чтобы сохранить эти следы зарождающейся эпохи компьютеризации, – сказал Берри, – потому что, если мы этого не сделаем, мы потеряем цифровые эквиваленты Моны Лизы, Давида Микеланджело или Акрополя».