З’являється багато додатків, які за допомогою штучного інтелекту дозволяють класифікувати зображення. Але використання штучного інтелекту (ШІ) для виявлення їстівних грибів може вбити вас. Інструменти штучного інтелекту корисні для деяких речей, але не довіряйте своє здоров’я додаткам, бо вони часто роблять помилки.
Дослідник Рік Клейпул, який любить збирати гриби, зібрав кошик опеньків, які він вважав опеньками, обсмажив їх на сковороді та з’їв із локшиною рамен. Потім його шлунок став дивним. На щастя, гриби не були отруйними. Лікарі назвали його симптоми панічним нападом і відправили додому.
Іншим так не пощастило. Згідно з новинними повідомленнями, у 2015 році сім’ю з Орегону було госпіталізовано після того, як вона з’їла отруйні гриби, які ідентифікували як безпечні. Чоловік із Огайо серйозно захворів у 2022 році після того, як з’їв отруйні гриби, також помилково ідентифіковані додатком.
Клейпул сказав, що для впевненого визначення дикорослих грибів потрібен досвід, а технічні інструменти не відповідають цьому.
Тепер у магазинах додатків Apple, Google і OpenAI з’являється новий асортимент ідентифікаторів грибів на основі ШІ. Ці інструменти використовують штучний інтелект для аналізу фотографій або описів грибів і порівняння їх із відомими сортами. Як і попередні додатки для ідентифікації грибів, точність низька.
Компанії і магазини додатків все одно пропонують ці програми, часто без чіткого розкриття інформації про те, як часто ці інструменти помиляються.
Постійне викидання неточної інформації є однією рисою штучного інтелекту. З частими помилками ідентифікація грибів є поганим кандидатом для автоматизації, але компанії все одно роблять це, підсумував Клейпул.
Незважаючи на ризики, початківці збирачі їжі все частіше звертаються до додатків, щоб допомогти визначити види грибів. За даними Google Trends, три з п’яти найпопулярніших пошукових запитів, пов’язаних із «ідентифікацією грибів», згадують програми або програмне забезпечення.
Пошук за словом «гриб» у магазині GPT OpenAI, де користувачі знаходять спеціалізовані чат-боти, одразу відкриває такі пропозиції, як Mushroom Guide, де стверджується, що гриби можна ідентифікувати за зображеннями та визначити, чи їстівні вони.
У магазинах додатків Apple або Google ви знайдете десятки додатків, які стверджують, що вони ідентифікують гриби, деякі з яких містять ШІ в назвах або описах.
Коли австралійські вчені перевіряли точність популярних програм ідентифікації грибів минулого року після сплеску отруєнь, вони виявили, що найточніший із них правильно ідентифікував небезпечні гриби в 44 відсотках випадків.
Однак навіть продукти штучного інтелекту з низькою точністю можуть швидко завоювати довіру споживачів через когнітивне спотворення, яке називається упередженням автоматизації. Ще в 1999 році вчені виявили, що люди схильні довіряти рішенням комп’ютера, навіть якщо його рекомендації суперечать їх здоровому глузду або підготовці.
У деяких контекстах ШІ покращує точність і результати. Наприклад, лютневе дослідження в JAMA Ophthalmology показало, що широкомовний модельний чат-бот так само добре, як і окулісти, рекомендує діагностику та лікування глаукоми та захворювань сітківки.
«Наші висновки, незважаючи на те, що вони є багатообіцяючими, не слід тлумачити як схвалення прямого клінічного застосування через нечіткі обмеження чат-ботів у прийнятті складних рішень, а також необхідні етичні, нормативні та перевірочні міркування», — зазначають автори.
Коли Клейпул перевірив інші способи ідентифікації грибів штучним інтелектом, він знайшов книжковий магазин Amazon, який пропонував те, що, здавалося, було створено штучним інтелектом. Він також випробував Microsoft Bing Image Creator, попросивши його створити та позначити зображення різних грибів. Він склав нові частини грибів, такі як «ging» і «nulpe», яких не існує. Неточні зображення грибів, створені штучним інтелектом, можуть зіпсувати майбутні навчальні дані штучного інтелекту та результати пошукових систем, зробивши ці системи штучного інтелекту ще менш точними, написав Клейпул.
Висновок: не їжте лісові гриби, якщо ви не проконсультувалися з фахівцем. Справжнім фахівцем, людиною.
За матеріалами: The Washington Post
