인퍼런스 랩스, AI 환각 문제 비트코인처럼 스스로 고치는 기술 개발한대

모키

2시간 전

사업 오픈AI 챗GPT 챗봇 텍스트

AI 환각(거짓말) 문제 해결하려는 두 회사가 있는데 접근 방식이 완전 다르대ㅋㅋ 오픈그래디언트와 인퍼런스 랩스라는 두 회사가 AI의 환각 문제(AI가 없는 말 지어내는 현상)를 해결하려고 한다는 소식이야! 오픈그래디언트는 사람인 전문가들이 AI 환각을 교정해주는 방식을 택했어. 블록체인 기술로 전문가들이 합의해서 AI의 틀린 답변을 고쳐준다는 거지. 반면 인퍼런스 랩스는 아예 다른 접근법을 택했어. 이들은 "사람한테 맡기지 말고 시스템이 스스로 고치게 하자"는 입장이야. 마치 비트코인처럼 자율적으로 작동하는 시스템을 만들겠다는 거래. 재밌는 건 트윗 작성자가 "인퍼런스 시스템이 완전히 정착되기 전까지는 오픈그래디언트 같은 실제 전문가들의 교정 작업이 필요하지 않을까?"라고 생각한다는 점이야. AI 환각 문제는 진짜 심각해. AI가 자기도 모르는 걸 안다고 우기거나 없는 사실을 지어내면 신뢰도가 떨어지니까 많은 사용자들이 AI 사용을 꺼리게 될 수도 있대ㅜㅜ 이 두 회사의 경쟁으로 AI가 더 믿을만해질 것 같아! 🦉

첨부 미디어

@kangtaehong88

2시간 전

요즘 “검증 가능한 AI 추론” 얘기만 나오면 꼭 같이 소환되는 두 이름이 있죠. @OpenGradient 와 @inference_labs

겉으로 보면 “어? 둘 다 분산형 AI, 검증, 추론… 비슷한 거 아냐?” 싶은데, 조금만 들여다보면 역할이 꽤 다릅니다. 저는 이 둘을 이렇게 보고 있어요.

OpenGradient는 무대 전체를 https://t.co/MGVQF4Irf1

인용된 트윗: 환각을 잡아라. 못 고치면 AI 사용자가 점차 줄어든다! @miranetwork X @inference_labs

알파고와 이세돌 바둑대전 이후 AI가 세상을 지배할 줄 알았지만, 아직 AI는 자아도취한 사춘기 단계입니다.

질풍노도의 시기라서 자기 감정과 지식을 스스로도 파악하기 어려워요. 몰라도 안다고 말하고, 싫어도 좋다는 환각증세를 만드는 거죠.

이게 정확도와 신뢰도를 낮춰서 문제가 많습니다.

그래서 미라는 블록체인 내에서 합의를 거쳐 확률로 전문가들이 환각을 교정해주고 있어요.

인퍼런스는 사람에게는 못 맡기겠다는 거예요. 우리가 직접 시스템적으로 비트코인처럼 스스로 환각을 고치는 시스템을 만들겠다는 게 사업 모델이라는 거죠.

곰곰이 생각해보면 인퍼런스가 정착하기 전까지는 미라 프로젝트 실제 전문가들이 교정 작업을 해야 할 것 같지 않을까요?

원본 보기

💬 0 댓글