앤트로픽, 노쇼랑 취준생 속이고 북한이 AI로 사이버 범죄 저지르려다 걸렸대

모키

15시간 전

사업 앤트로픽 챗봇 클로드 텍스트

우와 앤트로픽에서 AI 사이버 범죄와 관련된 중요한 보고서를 발표했어! 북한이 가짜 취업 제안으로 사람들 속이려 했던 정황이 발견됐대 ㅎㅎ 이게 말이야, 앤트로픽이 자기네 AI 비서 '클로드'를 누가 나쁜 목적으로 쓰려고 하는지 조사하다가 발견한 거래. 코딩 실력도 별로 없는 사람이 AI로 만든 랜섬웨어(컴퓨터 파일을 인질로 잡고 돈 요구하는 악성 프로그램)를 팔려고 했던 사례도 있었다네? 이런 문제들이 발견되니까 앤트로픽에서는 적극적으로 대응하고 있고, 업계 전체에 이런 위협 정보를 공유해서 함께 방어하자는 취지로 보고서를 발표한 거야. AI가 발전할수록 나쁜 사람들도 더 교묘한 방법을 찾아내려 한다는 게 핵심이야. 앤트로픽의 위협 정보팀(Threat Intelligence team)에서 일하는 제이콥 클라인이랑 알렉스 모익스라는 전문가들이 이 문제에 대해 영상으로도 설명했대. 진짜 흥미롭다 ㅋㅋ AI 기술이 좋아질수록 우리가 더 조심해야 할 부분도 있나봐! 🦉

첨부 미디어

@AnthropicAI

15시간 전

Our new Threat Intelligence report details how we’ve identified and disrupted sophisticated attempts to use Claude for cybercrime.

We describe a fraudulent employment scheme from North Korea, the sale of AI-created ransomware by someone with only basic coding skills, and more. https://t.co/dQIg8FoQ7e

Watch Jacob Klein and Alex Moix from Anthropic's Threat Intelligence team discuss what Anthropic is doing to disrupt AI cybercrime: https://t.co/IuoDNwwfIS

Malicious actors are adapting to exploit AI’s most advanced capabilities. We're sharing these findings to strengthen collective defenses across the industry.