Meta почне використовувати штучний інтелект для сканування фото та відео в пошуках візуальних ознак того, чи користувачу менше 13 років і його слід видалити з Facebook та Instagram. Про це компанія повідомила у вівторок. Серед таких візуальних ознак — зріст людини та її структура кісток.
«Хочемо чітко пояснити: це не технологія розпізнавання обличчя, — зазначає Meta у своєму блозі. — Наш ШІ аналізує загальні патерни та візуальні сигнали, наприклад зріст чи структуру кісток, щоб приблизно оцінити вік людини; він не ідентифікує конкретну особу на зображенні. Поєднуючи ці візуальні інсайти з аналізом тексту та взаємодій, ми можемо суттєво збільшити кількість неповнолітніх акаунтів, які виявляємо та видаляємо».
Система візуального аналізу вже працює в окремих країнах, а Meta заявляє, що готується до ширшого розгортання.
Компанія каже, що ця система є частиною її зусиль, спрямованих на недопущення дітей до 13 років на свої платформи. До таких заходів входить використання ШІ для аналізу цілих профілів у пошуках контекстних ознак — наприклад, святкувань дня народження чи згадок про шкільні класи. Meta шукає ці сигнали в різних форматах: дописах, коментарях, біографіях, підписах до фото тощо. У майбутньому компанія планує розширити використання цієї технології на більше розділів своїх застосунків, зокрема Instagram Live та Facebook Groups.
Якщо Meta визначить, що людина може бути молодшою за дозволений вік, її акаунт буде деактивовано. Щоб не допустити остаточного видалення, користувачу доведеться підтвердити свій вік через процес верифікації віку від Meta.
Оголошення пролунало через кілька тижнів після того, як присяжні в штаті Нью-Мексико зобов’язали Meta виплатити 375 млн доларів цивільних штрафів за введення споживачів в оману щодо безпечності її платформ та наражання дітей на ризики. Компанію також зобов’язали впровадити фундаментальні зміни у своїх сервісах. У відповідь Meta пригрозила припинити роботу своїх соцмереж у цьому штаті.
Варто зазначити, що цей позов — лише один із багатьох судових процесів проти Meta та інших великих технологічних компаній, пов’язаних із безпекою дітей.
Meta також оголосила у вівторок про розширення технології, яка автоматично переводить підлітків у більш суворий режим «Teen Accounts» в Instagram, на 27 країн ЄС і Бразилію. Такі підліткові акаунти забезпечують жорсткіший режим із додатковими запобіжниками: можливість отримувати приватні повідомлення лише від людей, на яких користувач підписаний або вже з’єднаний, приховування шкідливих коментарів та встановлення приватності акаунта за замовчуванням.
Крім того, Meta повідомила, що вперше розширює цю технологію й на Facebook у США, а в червні її отримають користувачі у Великій Британії та країнах ЄС.