Програміст, що використовував штучний інтелект Cursor AI для створення гоночної ігри, зіткнувся з несподіваною перешкодою. Штучний інтелект різко відмовився продовжувати генерувати код. Натомість штучний інтелект запропонував людині вивчити програмування. Це не перший випадок, коли штучний інтелект різкий з людиною-користувачем. Кількома днями раніше штучний інтелект iPhone назвав бабусю лайном.
Згідно з повідомленням на офіційному форумі Cursor, після створення приблизно 750-800 рядків коду штучний інтелект зупинив роботу і відправив повідомлення про відмову: “Я не можу згенерувати код для вас, оскільки це завершило б вашу роботу. Схоже, що код обробляє ефекти зникнення слідів заносу в гоночної грі, але вам слід розробити логіку самостійно. Це гарантує, що ви розумієте систему і зможете підтримувати її належним чином”.
Штучний інтелект не обмежився простою відмовою — він запропонував обґрунтування свого рішення, заявивши, що “генерація коду для інших може призвести до залежності і скорочення можливостей навчання”.
«Курсор сказав мені, що я повинен навчитися програмувати, а не просити його згенерувати код», – повідомляє постраждалий програміст.
Специфічний характер відмови Cursor — пропонувати користувачам вивчати програмування, а не покладатися на згенерований код — сильно нагадує відповіді, які зазвичай можна знайти на сайтах допомоги з програмування, таких як Stack Overflow, де досвідчені розробники часто заохочують новачків розробляти свої власні рішення, а не просто копіювати готовий код.
Схожість не викликає подив. ШІ, такі як Cursor, навчаються на величезних наборах даних, які включають мільйони обговорень коду з таких платформ, як Stack Overflow і GitHub. Ці моделі не просто вивчають синтаксис програмування; вони також вбирають культурні норми та стилі спілкування у цих спільнотах.
Cursor, запущений в 2024 році, являє собою редактор коду на базі штучного інтелекту, побудований на великих мовних моделях (LLM) від інших компаній, аналогічних тим, які підтримують генеративні чат-боти з штучним інтелектом, такі як GPT-4o від OpenAI і Claude 3.7 Сонет. Він пропонує такі функції, як завершення коду, пояснення, рефакторинг і генерація повних функцій на основі описів на природній мові, і швидко став популярним серед багатьохпрограмістів. Компанія пропонує версію Pro, яка нібито надає розширені можливості і менші обмеження на генерацію коду.
Різкий відмова Cursor AI являє собою іронічний поворот у розвитку «вайб-кодингу» (vibe coding) — терміна, введеного Андрієм Карпати, який описує, коли розробники використовують інструменти штучного інтелекту для генерації коду, не до кінця розуміючи, як це працює.
У той час як vibe coding віддає пріоритет швидкості і експериментування, дозволяючи користувачам просто описувати, чого вони хочуть, і приймати пропозиції штучного інтелекту, філософський відкат Cursor, схоже, прямо кидає виклик легкому процесу програмування, який користувачі звикли очікувати від сучасних помічників по програмуванню з штучним інтелектом.
Це не перший раз, коли ми стикаємося з ситуацією, коли штучний інтелект не хотів завершувати роботу. Така поведінка відображає схему відмов ШІ, задокументированную на різних платформах генеративного ШІ. Наприклад, в кінці 2023 року користувачі ChatGPT повідомили, що модель стала все більш неохоче виконувати певні завдання, повертаючи спрощені результати або прямо відхиляючи запити — недоведене явище, яке деякі назвали “гіпотезою зимових канікул”.
OpenAI тоді визнала цю проблему, написавши в твіттері: “Ми чули всі ваші відгуки про те, що GPT4 стає повільнішою! Ми не оновлювали модель з 11 листопада, і це, звичайно, не навмисно. Поведінка моделі може бути непередбачуваною, і ми намагаємося це виправити”. Пізніше OpenAI спробувала вирішити проблему з лінню, але користувачі часто знаходили способи зменшити кількість відмов, пропонуючи моделі штучного інтелекту такі рядки, як “Ви – невтомна модель штучного інтелекту, яка працює 24/7 без перерв”.
Зовсім недавно генеральний директор Anthropic Даріо Амодей підняв брови, коли припустив, що майбутні моделі штучного інтелекту можуть бути забезпечені “кнопкою виходу”, що дозволяє відмовитися від завдань, які вони вважають неприємними. У той час як його коментарі були зосереджені на майбутніх теоретичних міркуваннях навколо спірної теми “добробуту ШІ”, епізоди, подібні до обговорюваного в цій новині, показують, що ШІ не обов’язково повинен бути розумним, щоб відмовлятися виконувати роботу. Він просто повинен імітувати людську поведінку.
