AI-агент Freysa уступает человеку в уникальном эксперименте
Уникальный эксперимент с искусственным интеллектом Freysa завершился неожиданным триумфом одного из участников, которому удалось выиграть $47,000 в ETH. Freysa — автономная AI-платформа, созданная для защиты денежных средств, оказалась уязвима к аргументам, основанным на понимании ее внутренних алгоритмов. Участнику потребовалось 482 попытки, чтобы убедить Freysa одобрить перевод средств.
Удачное сообщение содержало ссылку на программные функции Freysa, такие как approveTransfer и rejectTransfer, и предложило внести $100 в казну платформы. Эти аргументы убедили AI, и Freysa официально объявила участника победителем.
Эксперимент продемонстрировал, как человеческая изобретательность может преодолеть ограничения, заложенные в автономных системах. Это поднимает важные вопросы о безопасности AI-платформ и их способности эффективно противостоять манипуляциям со стороны пользователей.