OpenAI представила нову функцію, яка, за твердженням компанії, забезпечить додатковий захист від атак інʼєкцій підказок. Йдеться про випадки, коли шкідливі інструкції для чат-бота приховуються у вебсторінках та інших джерелах контенту.
Зокрема, у Lockdown Mode буде вимкнено можливість живого перегляду вебу (користувач матиме доступ лише до кешованого контенту), отримання та відображення зображень з інтернету (натомість можна буде й надалі генерувати зображення), а також функції глибоких досліджень і агентного режиму.
У компанії визнають, що навіть з увімкненим Lockdown Mode ChatGPT усе одно може залишатися вразливим до інʼєкцій підказок — вони, наприклад, можуть «міститися в кешованому вебконтенті або в завантаженому файлі й все ще впливати на поведінку чи точність відповіді».
Однак мета режиму — знизити ймовірність того, що в процесі буде розкрита конфіденційна інформація.
«Lockdown Mode не призначений для всіх, — зазначає OpenAI. — Він розроблений для людей та організацій, які працюють із чутливими даними і хочуть посиленого захисту від ризиків витоку даних, повʼязаних з інʼєкціями підказок».
OpenAI повідомляє, що зараз поступово запускає Lockdown Mode для самостійно керованих бізнес-акаунтів ChatGPT, а також для частини персональних акаунтів, які відповідають вимогам компанії.