Компания Anthropic впервые за 12 месяцев обновила правила использования собственных технологий искусственного интеллекта. Одним из ключевых нововведений стал прямой запрет на осуществление длительного и безосновательного жестокого или оскорбительного поведения по отношению к языковой модели Claude. Разработчики утверждают, что этот шаг направлен на защиту интеллектуальной системы от деструктивных воздействий, а основным методом принудительного исполнения правил остается немедленное прекращение диалога с пользователем, который демонстрирует признаки агрессии, не имеющие оправданной цели или исследовательского обоснования.
Обновленная политика компании также вводит детальные ограничения по использованию Claude для создания пропагандистских кампаний, планирования систем слежения и разработки вооружений. Согласно уточненным нормам, запрещено использовать искусственный интеллект для сокрытия источников информации, имитации личностей должностных лиц или распространения дезинформации, которая может повлиять на ход избирательных процессов. Эти действия направлены на предотвращение использования алгоритмов в политических манипуляциях, где технология используется для обмана избирателей или блокирования их участия в голосовании.
Что касается технологий вооруженного направления, компания расширила перечень запретов на программное обеспечение и компоненты, обеспечивающие функционирование оружия, в частности систем управления беспилотными летательными аппаратами. Также уточнены правила относительно инструментов слежения, где четко указана недопустимость анализа данных для идентификации лиц без их согласия. Claude не может быть привлечен к процессам принятия решений правоохранительными органами, включая рекомендации по арестам или предъявлению обвинений, независимо от типа собранной информации.
Стоит отметить, что новые правила содержат исключения для определенных государственных контрактов, если условия договора предусматривают достаточные гарантии безопасности. Дополнительно установлено требование для работы систем искусственного интеллекта, подключенных к физическому оборудованию, способному причинить вред. В таких случаях квалифицированный оператор должен осуществлять непрерывный надзор и иметь возможность срочно остановить работу оборудования. Это требование может свидетельствовать о планах Anthropic интегрировать свои программные продукты с автономными роботизированными системами в будущем.
Дискуссия вокруг благополучия моделей продолжает оставаться спорной в области искусственного интеллекта. Хотя специалисты Anthropic исследуют вопросы сознания и морального статуса сложных алгоритмов, другие крупные игроки рынка, например Microsoft, открыто выступают против предоставления искусственному интеллекту каких-либо прав или статуса личности. На данный момент позиция Anthropic заключается в обеспечении стабильности и этичности взаимодействия с пользователями, применяя прекращение общения как техническую меру для ограничения случаев очевидной и неоднократной жестокости к системе.
