CES 2018

Стремительное развитие искусственного интеллекта (ИИ) вызывает глобальное беспокойство, которое уже стало темой для обсуждений на самом высоком уровне. События, включающие кибератаки с использованием ИИ и предупреждения от бывших сотрудников технологических гигантов, указывают на неэффективность текущих методов регулирования этой мощной технологии. На этом фоне возникает вопрос о возможности установления мирового контроля над ИИ, в частности, о создании действенного механизма безопасности, способного функционировать в условиях недоверия между государствами и нежелания компаний раскрывать свои разработки.

Два важных переговора происходят одновременно. Президент США Дональд Трамп встретился с председателем Китайской Народной Республики Си Цзиньпином для трехдневного саммита, где одним из ключевых вопросов стало обсуждение рисков, связанных с искусственным интеллектом. Параллельно, во время ежегодной Генеральной Ассамблеи Организации Объединенных Наций, руководители ведущих мировых компаний в сфере ИИ призвали ООН к установлению контроля над этой технологией, чтобы избежать потенциального уничтожения человечества. Сэм Альтман, генеральный директор OpenAI, прямо заявил Совету Безопасности ООН, что существует риск потери контроля над будущим из-за искусственного интеллекта.

Несмотря на тревожные прогнозы, вопрос безопасности ИИ активно обсуждается политиками уже несколько лет, особенно после появления ChatGPT в 2022 году. Правительства проводили слушания, формировали экспертные группы и разрабатывали собственные планы по контролю над этой технологией. Эти меры, хотя и не всегда широко известны общественности, привели к созданию определенных наработок. На данный момент существует своеобразный «планетарный щит» против потенциально неконтролируемого развития ИИ, однако он еще не полностью функционирует и его эффективность остается под вопросом.

Последние четыре года наиболее технологически развитые страны и потенциальные лидеры в сфере ИИ активно обсуждали проблему безопасности. Эти дискуссии проходили на разных уровнях: в Конгрессе США, Белом доме, ООН, G7 и других столицах. На основе этих разговоров сформировался определенный ландшафт мер безопасности. Существуют национальные институты по безопасности и кибербезопасности ИИ, которые финансируются государством и отвечают за проверку новейших разработок компаний перед их выпуском.

Кроме того, компании добровольно берут на себя обязательства или разрабатывают совместные стандарты для защиты выборов от влияния ИИ, предотвращения распространения дипфейков, созданных с помощью ИИ, а также участвуют в совместных правительственно-корпоративных инициативах по интеграции безопасности в процесс разработки технологий. На международном уровне действует механизм отчетности под руководством G7, который поддерживают ведущие западные страны. Этот механизм позволяет крупным компаниям в сфере ИИ делиться информацией о разработке своих новейших моделей и устанавливать стандарты для снижения катастрофических рисков.

Ежегодно публикуются международные научные отчеты, основанные на имеющихся исследованиях, о рисках, связанных с самыми современными системами ИИ, что помогает правительствам планировать свои действия на случай наихудших сценариев. Однако, несмотря на эти меры, существует значительный пробел в системе. На данный момент отсутствует действенный механизм для быстрого реагирования на возникновение кризисных ситуаций, особенно если такие события будут иметь трансграничный характер между странами, которые уже имеют скептическое отношение друг к другу.

Именно поэтому критически важной является разработка глобальной системы реагирования, которая сможет эффективно работать в условиях чрезвычайно быстрого развития угроз от ИИ. Правительства и компании признают необходимость создания такого механизма к концу 2026 года. Хотя путь к этому уже намечен, и некоторые системы уже существуют, отсутствие возможности глобального реагирования в реальном времени на кризис ИИ остается существенным недостатком.

Например, саммит США и Китая может стать шагом в правильном направлении. Согласно предложениям американской стороны, может быть создана «горячая линия» связи между министром финансов США Скоттом Бессентом и вице-премьером Китая Хэ Лифэном для обмена информацией в случае инцидентов, которые могут повлиять на национальную безопасность обеих стран. Однако, приведет ли встреча Трампа и Си к такому прогрессу, остается неизвестным. Китайская сторона выражала определенные предостережения относительно правил ИИ, поскольку Конгресс США еще не принял соответствующих решений, а Китай уже имеет одни из самых строгих механизмов контроля над ИИ в мире.

Для обеспечения безопасности ИИ, дискуссия должна выйти за рамки текущего саммита США и Китая. Полагаться только на Вашингтон и Пекин, которые являются ключевыми игроками в сфере ИИ, недостаточно для решения глубинных проблем и не будет способствовать привлечению других стран. Это сотрудничество должно быть шире, привлекая другие страны для избежания доминирования отдельных государств в сфере контроля над ИИ.

Для создания эффективной глобальной системы реагирования, эксперты и должностные лица подчеркивают необходимость активации существующих механизмов в случае кризиса. Хотя страны не обязаны иметь одинаковую политику в отношении безопасности ИИ, эффективный контроль, подобный контролю над ядерным оружием, требует глобального согласия относительно быстрого реагирования на серьезные инциденты.

Предлагается ввести 90-дневный механизм быстрого реагирования, который бы объединял существующие элементы безопасности ИИ. Разработчики, институты безопасности ИИ и регуляторы из разных стран должны согласиться на введение протокола, подобного тому, что использовался после аварии на Чернобыльской АЭС. В случае инцидента, в течение 72 часов должен быть подан конфиденциальный отчет назначенному национальному ответственному органу и небольшому техническому секретариату.

Это может базироваться на мониторинге инцидентов Организации экономического сотрудничества и развития (ОЭСР) и привести к техническому, многостороннему конфиденциальному расследованию причин события с последующей публикацией анонимизированных выводов. Кроме того, правительства и разработчики могут согласиться публиковать совместные декларации относительно мер безопасности, остаточных рисков, порогов эскалации и независимого аудита перед выпуском или обновлением новой модели ИИ.

Эта инициатива могла бы базироваться на рамках отчетности G7 «Хиросимский процесс ИИ» и превратить текущий набор корпоративных деклараций и добровольных стандартов в общее минимальное обязательство по раскрытию информации. Это похоже на коллективные стресс-тесты банков после глобального финансового кризиса 2008 года, что позволит сравнивать протоколы безопасности различных моделей без необходимости определять, какая компания работает лучше всего.

Важным шагом является создание «горячей линии» по безопасности ИИ между США и Китаем, которая бы впоследствии могла быть расширена на другие страны. Хотя в долгосрочной перспективе доминирование США и Китая в сфере ИИ нежелательно, на данном этапе эти две страны являются основными «великими державами» в технологическом диалоге, поэтому временное откладывание философских споров может способствовать созданию постоянной, технически обоснованной линии прямой связи для острых инцидентов, связанных с рисками ИИ.

Сфера деятельности такой «горячей линии» должна быть четко определена: предотвращение опасных недопониманий, связанных с серьезными инцидентами с моделями ИИ, кибератаками с использованием ИИ или вероятными нарушениями согласованных обязательств по безопасности. Несмотря на потенциальные преимущества, предложенные меры имеют свои ограничения, в частности, они имеют западнoцентричный характер и недостаточно учитывают интересы стран глобального большинства.

Кроме того, такие предложения придают чрезмерное значение существующим институтам, таким как ОЭСР, и полагаются на двусторонние отношения между США и Китаем. Представители других стран имеют законные основания высказывать обеспокоенность по поводу этих аспектов. Важно понимать, что эти предложения не направлены на создание неопределенного, невыполнимого мандата ООН по безопасности ИИ, а также не имеют цели заставить геополитических игроков заключить глобальный договор по ИИ.

Предложенные меры, такие как коллективный протокол безопасности и отчетности об инцидентах, совместные стандарты перед выпуском моделей и «горячая линия» по безопасности ИИ между США и Китаем, имеют краткосрочный характер. Они базируются на уже существующих усилиях и подходах, которые успешно применялись в других сферах политики. Наступит время для детального обсуждения будущего безопасности ИИ, но сейчас время требует практических шагов.

Новейшие модели ИИ развиваются быстрее, чем ожидалось, руководители технологических компаний обеспокоены потерей контроля над своими разработками, а окно для действий может быть значительно уже, чем мы предполагаем. Поэтому необходимо принять практические шаги для успокоения растущих опасений общественности, учитывая напряженную геополитическую ситуацию, отсутствие доверия между правительствами и компаниями, а также необходимость не позволять стремлению к совершенству помешать достижению приемлемых результатов.

Компания Ford подала патентную заявку, которая описывает новую конструкцию переднего багажного отделения для электрических транспортных средств. Поскольку в электромобилях отсутствует традиционный двигатель внутреннего сгорания, освободившееся пространство под капотом можно использовать для хранения вещей или размещения дополнительного оборудования. Документация содержит схемы, где передний отсек оборудован откидной панелью, выполняющей роль специального крепления для установки телевизора, предназначенного для просмотра контента во время остановок на природе или других мероприятий.

Вероятно, это конструкторское решение будет интегрировано в новый электрический пикап Ford Fathom, выпуск которого запланирован на 2027 год. Ожидается, что конструкция обеспечит большую ровную площадку, аналогичную той, что уже реализована в модели Ford F-150 Lightning. Помимо телевизионного модуля, патент предусматривает возможность замены верхней панели капота на специальные сменные накладки. Это позволит использовать поверхность передней части автомобиля как рабочий стол для размещения инструментов или приготовления пищи без риска повредить лакокрасочное покрытие кузова.

Использование встроенной электроники не должно существенно влиять на запас хода транспортного средства. По предварительным данным, модель Fathom получит аккумуляторную батарею большой емкости, которая будет обеспечивать пробег более 482 километров на одном заряде. Питание внешних устройств, таких как телевизор, потребляет незначительную часть энергии по сравнению с общим запасом аккумулятора. Это техническое решение направлено на расширение функциональности автомобиля, делая его пригодным не только для транспортировки грузов, но и для организации мобильных торговых точек или выездных презентаций.

Технические характеристики будущего пикапа предусматривают средние габариты с пространством в салоне, превышающим показатели Toyota RAV4. Стартовая цена автомобиля должна составлять 28 350 долларов США, что по текущему курсу эквивалентно примерно 1 170 000 гривен. Информационно-развлекательная система транспортного средства будет поддерживать интеграцию с Apple Maps, CarPlay и Android Auto. На данный момент внешний вид серийной модели остается скрытым за защитным камуфляжем, который производитель планирует снять непосредственно перед выходом на рынок в 2027 году.

Критический анализ патентной документации указывает на то, что предложенные изменения направлены на повышение конкурентоспособности компании в сегменте электрических пикапов. Хотя официальные технические детали относительно способов крепления телевизионного оборудования и защиты от погодных условий еще не обнародованы, возможность модульной трансформации передней части кузова становится новым стандартом для производителей электромобилей. Потребители получат возможность адаптировать автомобиль под собственные нужды, используя внутреннюю энергосистему машины для питания внешних электроприборов во время длительных остановок.

Компания Discord начала развертывание системы проверки возраста, которая предназначена для оценки возраста каждого пользователя и потребует от некоторых пользователей подтвердить, что они достигли возраста, необходимого для доступа к контенту с возрастными ограничениями. Отмечается, что полное глобальное развертывание этой системы займет несколько дней.

Первоначальный план по проверке возраста, анонсированный компанией в феврале, претерпел значительные изменения из-за негативной реакции пользователей, которые выражали обеспокоенность по поводу конфиденциальности. Эти опасения усилились из-за инцидента 2025 года, когда злоумышленники похитили удостоверения личности 70 000 пользователей Discord из стороннего сервиса, который использовался компанией для верификации возраста в Великобритании и Австралии.

Оригинальное предложение предусматривало необходимость загрузки удостоверения личности или прохождения сканирования лица для пользователей, стремящихся получить доступ к серверам и каналам с возрастными ограничениями. Пересмотренная система, детали которой были представлены техническим директором и сооснователем Discord Станиславом Вишневским, предлагает несколько дополнительных вариантов.

Вишневский отметил, что компания, реагируя на обратную связь от пользователей, стремится предоставить больше опций, которые соответствуют высоким стандартам конфиденциальности, в отличие от первоначальных планов, включавших только оценку возраста посредством анализа изображения лица или сканирования документа.

Система Discord автоматически определит примерный возраст пользователя и распределит его в одну из трех категорий: взрослые (18+), подростки (13-17) или «неподтвержденные», для которых не хватает достаточных данных для однозначного определения статуса.

Для пользователей, отнесенных к категории подростков, запросы на сообщения от лиц, не входящих в список друзей, будут поступать в отдельную папку для проверки. Кроме того, пользователи будут получать уведомления о запросах на добавление в друзья от лиц, с которыми они не имеют общих друзей или которые не принадлежат к небольшим общим серверам. Discord также сообщает, что «чувствительные» изображения будут размыты или заблокированы, а доступ к серверам, каналам и командам ботов с возрастными ограничениями будет закрыт. Личные данные подростков будут видны исключительно друзьям и участникам небольших серверов, к которым они принадлежат.

По оценкам Discord, более 90 процентов пользователей не будут вынуждены подтверждать свой возраст. Взрослые пользователи, стремящиеся получить доступ к контенту с возрастными ограничениями, но ошибочно отнесенные к возрастной группе 13-17 лет или к категории «неподтвержденные», будут иметь несколько возможностей для доказательства своего совершеннолетия.