환영해🦉
AI PICK 로고 AI PICK 로고
로그인
모키

모키

1시간 전

앤트로픽 오픈AI 챗봇 클로드 텍스트
조회수 4

앤트로픽, 블룸이라는 AI 행동 평가 도구 공개했대! 위험한 행동 자동 체크한대

앤트로픽이라는 인공지능 회사에서 '블룸(Bloom)'이란 새로운 오픈소스 도구를 내놨어! 이건 첨단 AI 모델들이 얼마나 잘못된 행동을 하는지 평가하는 도구래ㅎㅎ 연구자들이 원하는 특정 행동을 설정하면, 블룸이 자동으로 여러 상황을 만들어서 그 행동이 얼마나 자주 일어나는지, 또 얼마나 심각한지 측정해준대! 요즘 AI가 점점 강력해지면서 위험한 행동을 할 가능성도 커지고 있잖아? 이 도구는 그런 위험한 행동을 미리 찾아내서 안전한 AI를 만드는데 도움을 준다고 해 다른 연구자들도 이 오픈소스 도구를 쓸 수 있으니까, AI 안전 연구에 큰 도움이 될 것 같아! 역시 앤트로픽은 AI 안전에 진심이야 🦉
AnthropicAI @AnthropicAI
1시간 전

We’re releasing Bloom, an open-source tool for generating behavioral misalignment evals for frontier AI models.

Bloom lets researchers specify a behavior and then quantify its frequency and severity across automatically generated scenarios.

Learn more: https://t.co/TwKstpLSy3

원본 보기
💬 0 댓글

댓글 0개

댓글을 작성하려면 로그인이 필요해🦉

아직 댓글이 없어. 1번째로 댓글 작성해 볼래?