Инженер-программист заявил, что OpenClaw разослал сотни сообщений

Крис Бойд оказался в ловушке в своем доме в Северной Каролине после снежной бури, когда решил попробовать инструмент ИИ-агента под названием OpenClaw. Он думал, что это поможет организовать его утро. Он настроил его на отправку новостной сводки на его почту каждый день в 05:30. Эта часть сработала. Затем он разрешил ему доступ к iMessage.

Сразу после этого все рухнуло. OpenClaw начал рассылать сообщения как сумасшедший. Он отправил более 500 сообщений ему, его жене и даже случайным людям из их списка контактов. Бойд не смеялся.

Он отключил его, изменил код и сказал: «Это было не багом. Это было опасно».

Инженер-программист говорит, что OpenClaw рассылал сотни спам-сообщений

Бойд назвал программное обеспечение «недоработанным» и сказал, что оно выглядит как что-то наспех слепленное без особых размышлений. Он сам исправил код, чтобы остановить дальнейший ущерб. Он был не единственным, кто поднял тревогу по поводу этого инструмента.

ИИ-агент, который раньше назывался Clawdbot, а позже Moltbot, начал набирать популярность еще в ноябре. Он мог выполнять простые задачи, такие как очистка почтовых ящиков, бронирование столиков в ресторанах и регистрация на рейсы. Ему не требовалось много вмешательства человека. Он просто работал. Это делало его интересным. Это же делало его опасным.

Казимир Шульц работает в компании HiddenLayer, которая специализируется на Безопасности аккаунта ИИ. Казимир сказал, что OpenClaw — это идеальный пример того, что он называет «смертельной триадой».

У него есть доступ к личным данным, он может общаться с внешним миром и может читать неизвестный контент. Это полный рецепт катастрофы, и у OpenClaw есть все это.

Юэ Сяо, профессор информатики в William & Mary, сказал, что можно украсть чьи-то данные через OpenClaw, обманув его с помощью так называемой инъекции подсказок. Это когда хакер скрывает команды внутри того, что выглядит как обычное сообщение. Юэ сказал, что такая технология открывает дверь к новым типам атак, к которым большинство людей не готовы.

Создатель признает, что OpenClaw не готов к массовому использованию

Петер Штайнбергер, который создал OpenClaw, сказал, что проект не завершен. Он сообщил Bloomberg по электронной почте: «Он просто еще не готов, но мы приближаемся к этому».

Петер сказал, что, поскольку это открытый исходный код, любой может увидеть код и работать над ним. Он сказал, что прогресс достигается, но для повседневных пользователей он еще не готов.

Петер не считал, что релиз был слишком ранним. Он сказал, что создает все открыто и не верит в то, чтобы сдерживаться до совершенства. Он также сказал, что многие проблемы возникают из-за того, что пользователи не читают инструкции по настройке.

Петер ясно дал понять, что не существует 100-процентной безопасности при использовании больших языковых моделей. Он сказал, что OpenClaw предназначен для людей, которые знают, что делают, и понимают риски.

Он также сказал, что инъекция подсказок — это не просто проблема его инструмента. Он назвал это проблемой, которая существует повсюду в мире ИИ. Петер сказал, что привлек эксперта по безопасности, чтобы помочь исправить ситуацию и сделать OpenClaw безопаснее.

Эксперты говорят, что ИИ-агенты растут быстрее, чем безопасность может за ними угнаться

Пока Петер защищает то, как он создал OpenClaw, другие эксперты говорят, что весь тренд ИИ-агентов выходит из-под контроля. Джастин Каппос, эксперт по кибербезопасности и профессор NYU, сказал, что трудно контролировать эти инструменты, как только они начинают работать.

Джастин сказал: «Мы не понимаем, почему они делают то, что делают». Он сравнил предоставление ИИ-агенту доступа к вашей системе с передачей малышу мясницкого ножа.

Технологический мир спешит запустить новые инструменты. Claude Code от Anthropic достиг темпа выручки в 1 миллиард $ всего за шесть месяцев.

Между тем, люди, пытающиеся обезопасить эти инструменты, все еще разбираются с основами. Джастин сказал, что компании выпускают обновления без остановки, и команды безопасности не могут угнаться.

Майкл Фриман из Armis, фирмы по кибербезопасности, сказал, что OpenClaw был слеплен без какого-либо реального плана безопасности. Он сказал, что некоторые клиенты Armis уже пострадали от утечек OpenClaw, но не поделился деталями. Майкл сказал, что компаниям придется отказаться от части контроля, если они хотят продолжать использовать такие инструменты ИИ, как OpenClaw.

Пока что вопрос в том, будут ли люди все еще использовать OpenClaw после этой катастрофы. У инструмента есть поклонники, но даже эти люди понимают, что свобода без безопасности — это проблема. И если изменения не будут внесены быстро, OpenClaw может стать последним примером технологии, которая слишком опередила саму себя.

Хотите представить свой проект ведущим умам крипто-индустрии? Разместите его в нашем следующем отраслевом отчете, где данные встречаются с воздействием.