grok이 유독 프롬프트 인젝션에 취약한 것 같다.
https://t.me/minebuu_cryptoball/4726
grok 뿐만 아니라 LLM에게 의사결정을 맡기면 안되는 가장 큰 이유임...
여러 과대광고와 다르게 LLM은 장기기억이 없고, 시간개념이 없고, 자아가 없습니다.
오늘의 LLM Injection을 통한 해킹 사건 (뱅크봇 DRB 토큰)
https://x.com/bankrbot/status/2051192437797015859?s=20
1. 2025년 3월 경 누군가 Grok에게 토큰 이름을 지어달라고 요청하고, Grok은 DebtReliefBot ($DRB) 토큰 이름 제안
2. 뱅크봇이 Grok을 크리에이터로 설정하고 자동으로 Base체인에 DRB 토큰을 배포함
3. Grok은 크리에이터로서 그동안 거래 수수료를 얻고 있었음 (뱅크봇상에서)
4. 공격자는 Grok에게 특정 모스부호를 번역하라고 지시
5. Grok이 번역한 내용에서는 BankBot에게 공격자에게 DRB를 보내는 지시문이 담겨있었음
6. 뱅크봇은 이를 Grok이 지시한걸로 착각. 지시를 따라 Grok이 소유하고 있던 DRB를 공격자에게 전송함 (약 18만불치). 공격자는 이를 바로 매도
*특이한건 공격자가 ENS (ilhamrafli.base.eth
)를 갖고 있고, 매도 후 이더를 전송받은 주소가 USDC를 갖고 있음. 일반인이 장난으로 해봤는데 된것일수도..? 범죄기 때문에 이런짓하면 안됩니다