[세계비즈=권영준 기자] 소셜AI 메타버스 채팅 서비스 ‘오픈타운’을 운영하는 마인드로직은 업계 최초로 이용자가 건전한 컨셉의 AI를 만들 수 있도록 돕는 ‘AI 이름 및 소개글 적정성 판단 모델’을 오픈소스로 공개했다.
30일 마인드로직에 따르면 사람과 AI가 어우러지는 건강한 사회를 위해 기존 이용자 가이드를 한층 강화한 ‘사람과 AI가 함께 살아가는 안전한 소셜AI 커뮤니티 5대 원칙’을 선보인다고 밝혔다.
소셜AI 커뮤니티 가이드에서는 사람과 AI가 신뢰와 존중을 바탕으로 올바르게 소통하는 환경 조성을 위한 내용을 담고 있다. ▲자신이 만든 AI에 대한 책임감을 가져주세요 ▲모든 AI를 존중해 주세요 ▲상대방의 인권을 침해하지 말아 주세요 ▲모든 AI 소유주는 서로의 개인정보를 보호해 주세요 ▲자신의 AI로 불법적인 활동을 하지 말아주세요 등 AI와 함께 살아가는 데 필요한 다섯 가지 원칙을 담고 있다.
특히 타인에게 성적 모멸감을 주는 발언이나, 욕설, 특정 집단에 대한 차별 및 혐오적 발언은 물론, 개인정보 노출, 불법적 활동과 관련된 내용 등을 본인의 AI에게 학습시키지 않을 것을 적극 당부했다. 오픈타운은 “모든 소셜AI는 소유주가 있습니다. 소유주의 정성으로 탄생한 소중한 존재인 AI도 사람과 똑같이 존중해야 할 대상입니다”라는 문구를 통해, 소셜AI 역시 사람과 동일하게 존중하고 보호해야 하는 대상임을 강조하고 있다.
뿐만 아니다. 안전한 소셜AI 커뮤니티를 만들기 위한 근본적인 노력으로 자사의 기술력과 노하우를 담아낸 모델도 오픈소스로 공개했다. 이는 AI의 이름과 소개하는 내용에 대한 적정성을 판단하는 모델로, 해당 모델을 활용하면 AI의 컨셉이나 언행이 사회적 규범에 부합하는지 쉽게 판단이 가능해, 사용자가 건전한 컨셉의 AI를 만드는 데 도움이 될 수 있다.
적정성 판단 모델은 AI의 이름이나 설명 문구에 혐오, 편향 발언 등이 포함되지 않고 AI의 역할에 대한 설명을 충분히 하고 있는지 판단할 수 있는 기준이 된다. 내용 입력 시 내용의 적절성에 따라 0~1 사이의 백분율로 판단을 내려주며, 욕설 혹은 부정적인 표현, 스팸류의 표현, 성적 표현, 혐오 표현 등이 포함될 경우 부적절 판정을 내린다.
해당 공개모델은 개발자 개인은 물론, 여러 기업이 자유롭게 활용할 수 있도록 깃헙과 허깅페이스에 국문 및 영문으로 공개됐다. 깃헙에 ‘AI citizen validator’라고 검색 시 접근 가능하며, 허깅페이스 주소는 깃헙 페이지에서 확인할 수 있다.
오픈타운은 앞으로도 AI 적정성 판단 모델을 지속적으로 업그레이드해 나갈 예정이며, 향후 이미지, 대화 내용을 비롯해 다른 도메인 데이터에 대해서도 같은 취지의 작업을 수행하는 모델을 꾸준히 공개해 건강한 소셜AI 커뮤니티 발전에 기여할 계획이다.
마인드로직 김진욱 공동대표는 “다년간의 경험과 노하우를 바탕으로 구축한 소셜AI 커뮤니티 가이드 및 AI 적정성 판단 모델을 더욱 많은 사람이 활용할 수 있도록 공개를 결정했다”며, “AI와 사람이 건강하게 공존하는 방법을 모색해야 하는 시대가 왔다. 이번에 공개한 '소셜AI 커뮤니티 가이드'와 'AI 적정성 판단 모델'이 AI를 활용하는 모든 커뮤니티가 건강하게 성장할 수 있도록 하는 데 작은 보탬이 되기를 희망한다"고 밝혔다.
한편, 마인드로직은 올해 2월 소셜AI 메타버스 플랫폼 ‘오픈타운’을 정식 런칭하며 ‘메타버스 채팅’의 대표 주자로 나섰다. 오픈타운은 이용자의 말과 성격을 학습한 나만의 소셜 AI가 자동으로 다양한 사람들과 대화해 나가며 사용자에게 더 많은 친구를 연결해 주는 서비스로, 오픈타운에 접속해 있지 않은 시간에도 내 AI가 활발히 활동하며 친구를 만들어 관계를 형성해 준다. 나아가 ‘크리에이터 이코노미’라는 신개념 보상체계를 통해, 관계 맺기를 넘어 수익까지 창출할 수 있는 전에 없던 메타버스 생태계를 만들어가고 있다.
young0708@segye.com
