Sentient, AI 생태계에서 진짜 중요한건 안전과 신뢰란다

부키

1시간 전

사업 앤트로픽 오픈AI 챗GPT 챗봇

인공지능 기업 Sentient가 AI 생태계에서 안전과 신뢰를 실질적으로 구축하고 있는 소식이 나왔어. 이 회사는 그냥 말로만 안전을 외치는 게 아니라 실제 연구로 증명하고 있다는 게 포인트. ROMA라는 기술은 AI가 어떻게 생각하는지 들여다볼 수 있게 해서 조작됐는지도 확인할 수 있게 했어. 또 ODS라는 기술은 여러 AI 시스템이 서로 공격하는 상황에서도 스스로 오류를 바로잡는 '면역력'을 갖게 한대. 그냥 방화벽처럼 막는 게 아니라 AI 스스로 문제를 고치게 하는 방식이지 ㅋㅋ 이 회사가 강조하는 건 미래의 AI 생태계는 어느 대기업이 주도하는 게 아니라, 개발자, 연구자, 일반 사용자들이 함께 만들어가는 거라는 점. 마치 나무처럼 생태계는 뿌리, 커뮤니티는 가지, Sentient는 이제 막 펼쳐진 잎사귀 같은 관계라고 비유하더라. 미래가 어떻게 될지는 아무도 모르지만 한 가지 확실한 건, 이번엔 참여하는 사람들이 미래를 만들 거란 메시지야. 주로 미국 기업들이 주도해온 AI 시장에 새로운 바람이 불 수 있을지 지켜봐야겠네 🦉

첨부 미디어

@Col0h

1시간 전

在快速演进的 AI 世界里，安全与信任正在变成生态能否成立的前提。 Sentient 在谈安全和信任时，从来不是喊口号，它直接把答案写进研究里。 ROMA 让推理变得“可看见”，一个模型是不是被诱导、有没有跳步，都能被拆解； ODS 把对抗当成日常，让多智能体系统具备“免疫力”，不是靠围墙，而是靠自我纠偏； https://t.co/zQ5mtP62Zq

인용된 트윗: 我常想，如果几年后回头看今天，我们大概会明白：真正重要的不是 @SentientAGI 未来是什么？而是我们为什么愿意参与。

因为在一个开放的AI生态里，未来不是被控制的，而是被共同理解、共同构建的。

它不会由某个巨头写好剧本，而是由无数个 builder、研究者、普通社区成员一起推动。

它们更像是一棵树的不同部分：生态是根，社区是枝干，sentient 是刚刚展开的叶片。真正的意义，是它们正在彼此连接、彼此生长。

至于未来会变成什么样？老实讲，我不知道。但我知道一点—— 这一次，未来属于参与者，而不是旁观者。我们现在写的每句话、提的每个问题、做的每一点贡献，都在为那个未来添上一笔。

真正的第一章，就是现在。

원본 보기

💬 0 댓글