Появляется множество приложений, которые с помощью искусственного интеллекта позволяют классифицировать изображение. Но использование искусственного интеллекта (ИИ) для обнаружения съедобных грибов может убить вас. Инструменты искусственного интеллекта полезны для некоторых вещей, но не доверяйте свое здоровье приложениям, потому что они часто совершают ошибки.
Исследователь Рик Клейпул, любящий собирать грибы, собрал корзину опят, которые он считал опятами, обжарил их на сковороде и съел с лапшой рамэн. Затем его желудок стал странным. К счастью, грибы не были ядовитыми. Врачи назвали его симптомы паническим приступом и отправили домой.
Другим так не повезло. Согласно новостным сообщениям, в 2015 году семья из Орегона была госпитализирована после того, как она съела ядовитые грибы, которые идентифицировали как безопасные. Мужчина из Огайо серьезно заболел в 2022 году после того, как съел ядовитые грибы, также по ошибке идентифицированы приложением.
Клейпул сказал, что для уверенного определения дикорастущих грибов требуется опыт, а технические инструменты не соответствуют этому.
Теперь в магазинах приложений Apple, Google и OpenAI появляется новый ассортимент идентификаторов грибов на основе ИИ. Эти инструменты используют искусственный интеллект для анализа фотографий или описаний грибов и сравнение их с известными сортами. Как и предварительные приложения для идентификации грибов, точность низкая.
Компании и магазины приложений все равно предлагают эти программы, часто без четкого раскрытия информации о том, как часто эти инструменты ошибаются.
Постоянный выброс неточной информации является одной чертой искусственного интеллекта. С частыми ошибками идентификация грибов является плохим кандидатом для автоматизации, но компании все равно делают это, подытожил Клейпул.
Несмотря на риски, начинающие собиратели пищи все чаще обращаются в приложения, чтобы помочь определить виды грибов. По данным Google Trends, три из пяти самых популярных поисковых запросов, связанных с «идентификацией грибов», упоминают программы или программное обеспечение.
Поиск по слову «гриб» в магазине GPT OpenAI, где пользователи находят специализированные чат-боты, сразу открывает такие предложения, как Mushroom Guide, где утверждается, что грибы можно идентифицировать по изображениям и определить, съедобны ли они.
В магазинах приложений Apple или Google вы найдете десятки приложений, утверждающих, что они идентифицируют грибы, некоторые из которых содержат ИИ в названиях или описаниях.
Когда австралийские ученые проверяли точность популярных программ идентификации грибов в прошлом году после всплеска отравлений, они обнаружили, что наиболее точное из них правильно идентифицировало опасные грибы в 44 процентах случаев.
Однако даже продукты искусственного интеллекта с низкой точностью могут быстро завоевать доверие потребителей через когнитивное искажение, называемое предупреждением автоматизации. Еще в 1999 году ученые обнаружили, что люди склонны доверять решениям компьютера, даже если его рекомендации противоречат их здравому смыслу или подготовке.
В некоторых контекстах ИИ улучшает точность и результаты. К примеру, февральское исследование в JAMA Ophthalmology показало, что широковещательный модельный чат-бот так же хорошо, как и окулисты, рекомендует диагностику и лечение глаукомы и заболеваний сетчатки.
«Наши выводы, несмотря на то, что они многообещающие, не следует толковать как одобрение прямого клинического применения из-за нечетких ограничений чат-ботов в принятии сложных решений, а также необходимых этических, нормативных и проверочных соображений», — отмечают авторы.
Когда Клейпул проверил другие способы идентификации грибов искусственным интеллектом, он нашел книжный магазин Amazon, предлагавший то, что, казалось, было создано искусственным интеллектом. Он также испробовал Microsoft Bing Image Creator, попросив его создать и пометить изображения разных грибов. Он составил новые части грибов, такие как ging и nulpe, которых не существует. Неточные изображения грибов, созданные искусственным интеллектом, могут испортить будущие обучающие данные искусственного интеллекта и результаты поисковых систем, сделав эти системы искусственного интеллекта еще менее точными, написал Клейпул.
Вывод: не ешьте лесные грибы, если вы не проконсультировались со специалистом. Настоящим специалистом, человеком.
По материалам: The Washington Post
