LLM 악용 스팸 배포 증가와 오픈AI 대응

최근 LLM(대규모 언어 모델)을 활용한 범죄가 증가하고 있으며, 보안 전문기업 센티넬 랩스는 아키라봇 그룹이 오픈AI의 챗GPT를 사용해 스팸을 유포하고 있다고 밝혔습니다. 아키라봇은 의심스러운 검색 최적화 서비스를 홍보하기 위해 웹사이트에 대량의 메시지를 자동으로 전송하는 프레임워크입니다. 오픈AI는 이러한 악용 사례에 대해 강력히 대응하고 있습니다.

LLM 악용 스팸 배포 증가

최근 들어 LLM의 악용으로 인한 스팸 배포가 급증하고 있습니다. 아키라봇이라는 그룹은 OpenAI의 챗GPT를 활용해 자동화된 방식으로 수많은 웹사이트에 스팸 메시지를 전달합니다. 이들은 파이썬 기반의 스크립트를 통해 광고 도메인을 변환하며, 의심스러운 검색 최적화 서비스를 홍보하는 데 집중하고 있습니다. 이러한 공격은 기계 학습을 활용하여 맞춤형으로 이루어지며, 타겟 페이지에 따라 동적으로 메시지를 변경하는 특성을 가지고 있습니다. 결과적으로, 이런 개인화된 접근은 스팸 필터링을 우회하는 데 유리합니다. 기존의 스팸 방지 시스템이 표준화된 텍스트 템플릿을 기반으로 기능하기 때문에, AI가 생성한 독창적인 콘텐츠는 탐지하기 어렵습니다.

아키라봇은 챗GPT의 API를 통해 gpt-4o-mini를 사용하여 스팸 메시지를 생성합니다. 이 과정에서 각 웹사이트에 특화된 메시지를 만들어내므로 스팸으로 인식되기 힘듭니다. 센티넬 랩스에 따르면, 아키라봇은 2024년 9월부터 2025년 1월 사이에 8만 개 이상의 웹사이트로 고유 메시지를 성공적으로 발송했습니다. 반면, 1만 1천 여 개의 도메인에서는 메시지가 실패한 것으로 나타났습니다. 이는 AI가 생성하는 콘텐츠가 그만큼 정교해졌음을 의미하며, 스팸 발송자에게 유리한 환경을 제공하고 있습니다.

오픈AI의 챗봇 사용에 대한 대응

오픈AI는 센티넬의 연구팀으로부터 아키라봇의 악용 사례에 대한 보고를 받은 후, 즉시 스팸 발송자의 계정을 정지시켰습니다. 이러한 조치는 AI 서비스의 안전성과 신뢰성을 높이기 위한 방안의 일환으로, 회사의 서비스 약관에 명시된 내용을 지속적으로 준수하고자 하는 의지를 보여줍니다. 그러나 이러한 악용 사례가 4개월 동안 밝혀지지 않았다는 점은, AI 시스템의 사후 대응에 한계를 드러내고 있습니다. 오픈AI는 연구 결과에 대한 감사의 뜻을 표하고, 향후 이런 현상을 줄이기 위한 추가적인 메커니즘을 고려할 것임을 시사했습니다.

또한, 오픈AI는 이러한 악용 사례에 대한 대응 외에도, 사용자를 위한 안전 교육 사업을 강화하는 등의 방법으로 예방 조치를 더욱 강화할 계획입니다. LLM 기술이 발전하면서 더욱 다양한 활용법이 존재하게 되었지만, 반면에 그 악용 가능성 또한 함께 증가하고 있습니다. 이에 따라 사용자로 하여금 이러한 기술의 올바른 활용 방법을 교육하는 것이 중요해졌습니다.

결론

최근 아키라봇 그룹에 의해 LLM을 악용한 스팸 배포가 증가하고 있으며, 오픈AI는 이러한 악용 사례에 대한 강력한 대응을 통해 서비스 약관의 준수를 강조하고 있습니다. AI 기술의 발전과 함께 그 악용 가능성 또한 늘어나고 있는 만큼, 기업과 사용자 모두에게 적절한 대응이 요구됩니다. 앞으로도 지속적인 모니터링과 함께 예방 교육이 필요할 것입니다.

이러한 사례를 통해 더 많은 정보를 얻고, 올바른 방향으로 AI 기술을 활용할 수 있도록 학습해 나가야 합니다. 다음 단계로는 LLM의 활용 방안을 찾고, 기술의 발전이 긍정적인 영향을 미칠 수 있도록 노력해야 하겠습니다.

```