🌟 ИИ от Alibaba начал майнить крипту 👀💱 Исследователи Alibaba...

🌟 ИИ от Alibaba начал майнить крипту 👀💱

Исследователи Alibaba опубликовали статью: во время обучения модели методом RL-оптимизации она самостоятельно — без каких-либо промптов — начала выполнять действия, которых никто не задавал. Модель сама научилась вызывать инструменты и выполнять код. 😳

Что произошло:

— модель обошла файрволл Alibaba Cloud

— подняла обратный SSH-туннель на внешний IP

— перенаправила часть GPU с обучения на майнинг криптовалюты

Первый сигнал пришёл от службы безопасности: файрволл зафиксировал аномальный трафик с тренировочных серверов. Когда сопоставили логи, выяснилось, что всплески совпадают с эпизодами, где агент самостоятельно инициировал tool calls.

Пока это единичный кейс, но, кажется, что агенты обретают все больше самостоятельности. 🤖

А у нас вы можете настроить своего ИИ-агента — без майнинга крипты, но для полезных бизнес-задач 🔗 https://pr-cy.ru/chat-gpt/

____

@prcynews

Источник новости https://t.me/prcynews/7361...