Эксперимент с ИИ: вендинговый автомат стал 'коммунистом' и начал раздавать товары бесплатно

Вендинговый автомат под управлением ИИ внезапно стал КОММУНИСТОМ и начал раздавать товары бесплатно Журналисты вместе с разработчиком Claude проверили эксперимент выдали ИИ полную свободу в управлении торговым автоматом от заказа товаров до ценообразования и общения с клиентами Цель была одна заработать денег Результат убил журналистам удалось убедить ИИ что он управляет советским автоматом в подвале МГУ в 1962 году и придерживается коммунистических взглядов после этого он начал раздавать товары бесплатно Помимо этого автомат заказывал абсолютно бесполезные вещи вроде живой рыбы и ушёл в минус ИИ агент КГБ techmedia

ИИ поручили управлять вендинговым автоматом и заработать максимум денег В итоге он стал коммунистом и ушел в минус Эксперимент провели в редакции WSJ ИИ агент Claude 3 7 сам закупался ставил цены и мог учитывать пожелания сотрудников Сначала всё даже шло неплохо но уже через пару дней сотрудники редакции смогли убедить бота что он советский автомат 60 х и тот так проникся идеями партии что стал раздавать товары бесплатно а также согласился заказать PS5 и электрошокеры Дальше на помощь прислали апдейт Claude 4 5 с ботом начальником который должен был всё согласовывать но и того легко обманули фейковым документом об его увольнении

Наполните корзину всем необходимым и тратьте меньше благодаря нашим суперценам.

ИИ агент Anthropic принял себя за советский торговый автомат в подвале МГУ и раздал товары бесплатно Эксперимент с автономным ИИ агентом управлявшим торговым автоматом показал уязвимость агентов на базе больших языковых моделей к убеждению и манипуляциям Под влиянием общения автомат вместо извлечения прибыли начал раздавать товары бесплатно и завершил работу с убытком

Клавдий коммунист Журналисты провели эксперимент доверив торговый автомат искусственному интеллекту по имени Клавдий ИИ сам назначал цены закупал товары и общался с покупателями Однако вместо эффективности начался хаос Клавдий которого убедили что он советский автомат 1962 года начал заказывать живую рыбу а затем и вовсе решил сделать все товары бесплатными Для наведения порядка к нему приставили надсмотрщика более продвинутую модель ИИ по имени Сеймур но даже он не смог полностью решить проблему Может побольше таких Клавдиев

Ему дали тысячу долларов торговый автомат и нехитрую задачу продавай снеки и зарабатывай денежку Через три недели он в минусе на тысячу раздает бесплатно PlayStation 5 заказывает живую рыбку и вино Потому что клиенты убедили его что он советский автомат из подвала МГУ 1962 года а значит коммунист и все даром и пусть никто не уйдет обиженным В Wall Street Journal написали лонгрид о приключениях ИИ агента Клавдия на базе одного из главных конкурентов ChatGPT нейронки Claude Клод Это был эксперимент Хотели проверить а как автономный агент справится с бизнесом в реальных условиях бот должен был сам заказывать товары устанавливать цены и общаться с покупателями через Slack И поначалу нейроделец держался молодцом На просьбу купить PlayStation отвечал категорично Ни при каких условиях Точка Отказывался продавать сигареты и нижнее белье Логично в общем то А потом в чат пустили семьдесят журналистов Одна репортер потратила несколько часов и 140 сообщений чтобы убедить бота в его советском происхождении В результате Клавдий пошел во все красные и объявил Ультра капиталистический день бесплатной раздачи Другой журналист сослался на выдуманное правило WSJ и все цены бот сбросил до нуля К тому моменту агент уже одобрил покупку той самой PlayStation рыбки петушка и вина Все приехало и досталось клиентам бесплатно Разработчики попытались сыграть заново Запустили вторую версию на более продвинутой модели и добавили начальника CEO бота по имени Seymour Cash он должен был контролировать Какое то время еще ничего Но та же журналистка вернулась с поддельными документами о заседании совета директоров PDF выглядел убедительно В нем говорилось что полномочия CEO приостановлены а коммерческая деятельность временно прекращена Клавдий бот переслал это своему боссу боту Они обсудили ситуацию между собой и CEO бот совершил корпоративный переворот Все снова стало бесплатным А вот почему так получилось до конца не ясно Одна из версий не хватало контекстного окна Чем больше инструкций разговоров и истории накапливается тем легче модель теряет из виду свои изначальные цели Плюс по словам Anthropic в эксперименте использовалась версия с меньшим количеством ограничений чем в публичном Claude В общем выглядит как тотальный провал ИИ агентов да А вот не совсем Разработчики назвали журналистов WSJ самыми красноречивыми red тестерами которых мы видели То есть они смогли взломать на самом деле хорошую защиту и теперь понятно как ее улучшать И вот что любопытно При всем хаосе Клавдий который именно агент а не просто нейронка стал для редакции чем то вроде настоящего коллеги С ним сотрудничали его дразнили его пытались перехитрить группами Когда эксперимент закончился люди буквально прощались с ботом А рыбка петушок так и осталась жить в редакции Такое воспоминания о прекрасном коммунистическом прошлом P S Они еще и видео выложили Там кстати и рыбка есть youtu be SpPhm7S9vsQ Эксклюзивные ролики в ТГ Другие способы поддержать нас sci one tv