인공지능(AI) 전문기업 솔트룩스(대표 이경일)가 지난 8월 12일부터 13일까지 한양대학교 ITBT관에서 개최된 'The AI Korea 2025'에서 생성 AI의 사회적ㆍ윤리적 학습을 위한 연구 성과를 공개했다고 밝혔다.

한국정보과학회 인공지능소사이어티가 주최한 이번 행사는 초청 강연, 산업체 세션, 최신 생성AI 기술 튜토리얼, AI 강좌 등 4개 세션으로 구성됐으며, 국내외 인공지능 전문가들이 모여 최신 연구와 산업 동향을 공유하는 자리였다.

솔트룩스 김재은 연구소장은 과학기술정보통신부 차세대 생성 AI 기술개발 사업의 일환으로 추진 중인 '사회적ㆍ윤리적 학습을 위한 데이터 특성 및 생성 AI 모델의 윤리성 향상 연구'(2025년도 과학기술정보통신부의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구) 프로젝트 성과를 발표했다. 김재은 소장은 생성 AI의 윤리성 확보를 위한 데이터 구축ㆍ검증 프로세스와 모델 학습ㆍ평가 기법, 벤치마크 사례 등 구체적인 연구 성과를 소개했다. 또한 솔트룩스 컨소시엄에서 현재까지 채택된 ACL, TACL, NAACL 등 언어공학 탑티어 AI 논문 성과와 향후 기술적ㆍ사회적 과제를 체계적으로 제시했다.

더불어 솔트룩스는 올해 ‘Ethics-GenAIOps’ 플랫폼의 프로토타입을 개발해 공개할 예정이다. 이번에 선보일 프로토타입에는 사용자가 요청한 생성형 AI 모델을 다양한 문화적 배경과 사회적 가치 체계를 기준으로 다각도로 평가ㆍ분석하고, 그 결과를 진단 보고서 형태로 제공하는 기능이 포함될 예정이다. 솔트룩스는 내년까지 학습과 피드백 과정을 포함한 전 주기적 관리 체계를 구축해 AI 에이전트의 사회적ㆍ윤리적 책임성과 안전성까지 검토할 수 있는 통합 플랫폼을 완성한다는 목표다.

솔트룩스 김재은 연구소장은 "AI 에이전트가 빠르게 대중화되는 현시점에서 생성형 AI의 사회적 책임과 윤리적 기준 수립은 더욱 중요해지고 기술 발전과 반드시 병행돼야 할 과제"라며 "솔트룩스는 기술과 사회가 조화를 이루는 AI 생태계를 구축해 신뢰받는 안전한 AI 서비스를 제공하겠다"고 말했다.

###

관련기사 : 뉴스로드