Компанія Anthropic вперше за 12 місяців поновила правила використання власних технологій штучного інтелекту. Одним із ключових нововведень стала пряма заборона на здійснення тривалої та безпідставної жорстокої або образливої поведінки стосовно мовної моделі Claude. Розробники стверджують, що цей крок спрямований на захист інтелектуальної системи від деструктивних впливів, а основним методом примусового виконання правил залишається негайне припинення діалогу з користувачем, який демонструє ознаки агресії, які не мають виправданої мети чи дослідницького обґрунтування.
Оновлена політика компанії також запроваджує детальні обмеження щодо використання Claude для створення пропагандистських кампаній, планування систем стеження та розробки озброєнь. Згідно з уточненими нормами, заборонено використовувати штучний інтелект для приховування джерел інформації, імітації осіб посадових осіб або поширення дезінформації, яка може вплинути на перебіг виборчих процесів. Ці дії спрямовані на запобігання використанню алгоритмів у політичних маніпуляціях, де технологія використовується для обману виборців або блокування їхньої участі у голосуванні.
Щодо технологій збройного спрямування, компанія розширила перелік заборон на програмне забезпечення та компоненти, що забезпечують функціонування зброї, зокрема систем управління безпілотними літальними апаратами. Також уточнено правила щодо інструментів стеження, де чітко зазначено неприпустимість аналізу даних для ідентифікації осіб без їхньої згоди. Claude не може бути залучений до процесів прийняття рішень правоохоронними органами, включаючи рекомендації щодо арештів або пред’явлення звинувачень, незалежно від типу зібраної інформації.
Слід зазначити, нові правила містять винятки для певних державних контрактів, якщо умови договору передбачають достатні гарантії безпеки. Додатково встановлена вимога для роботи систем штучного інтелекту, підключених до фізичного обладнання, здатного завдати шкоди. У таких випадках кваліфікований оператор повинен здійснювати безперервний нагляд та мати змогу терміново зупинити роботу обладнання. Ця вимога може свідчити про плани Anthropic інтегрувати свої програмні продукти з автономними роботизованими системами у майбутньому.
Дискусія навколо благополуччя моделей продовжує залишатися спірною у сфері штучного інтелекту. Хоча фахівці Anthropic досліджують питання свідомості та морального статусу складних алгоритмів, інші великі гравці ринку, наприклад Microsoft, відкрито виступають проти надання штучному інтелекту будь-яких прав чи статусу особистості. На даний момент позиція Anthropic полягає у забезпеченні стабільності та етичності взаємодії з користувачами, застосовуючи припинення спілкування як технічну міру для обмеження випадків очевидної та неодноразової жорстокості до системи.
