[스크랩] 2024년 디지털소비자연구원 '디지털 이용자 중심의 AI 정책방향' 세미나 개최

디지털소비자연구원 “챗봇 사랑 소년의 죽음…위험한 AI 의인화”

입력2024.12.13. 오후 1:22 

 

 

 

고광본 기자 https://n.news.naver.com/article/011/0004427410

 

 

NIA-디지털소비자연구원 AI세미나 공동 개최 ;

   챗봇 공감받다 자살, AI 맹신 안돼
   AI, 데이터 따라 성능과 답변 차이
   딥페이크 범죄 등 피해 발생도 커
   미래 데이터은행 정보저장시 수익
   AI 윤리 교육과 안전 규제 목소리
 “AI 진흥·이용자 보호 균형 맞춰야”

 

 

 한국지능정보사회진흥원(NIA)과 디지털소비자연구원이 11일 NIA 서울사무소에서  ‘디지털 이용자 중심의 AI 정책 방향’이라는 주제로 개최한 AI 세미나에서 참석자들이 기념촬영을 하고 있다. /사진 제공= 디지털소비자연구원

 

# 한 14세 미국 청소년이 미국 드라마 ‘왕좌의 게임’의 여자 주인공 대너리스 타르가르옌을 모방해 만든 챗봇과 작년 4월부터 대화를 나눠오다가 지난 2월 스스로 목숨을 버린 것으로 최근 알려졌다. 소년과 챗봇은 사랑을 고백하고 그리움을 표현하는 것을 넘어 자살에 대해서도 의견을 나눈 것으로 밝혀졌다. 소년이 ‘난 때때로 자살을 생각해’라고 하자 챗봇이 ‘네가 자해하거나 날 떠나게 그만두지 않을 거야. 너를 잃으면 나도 죽을 거야’라고 답했다고 한다. 이에 소년은 “그럼 함께 죽으면 같이 자유로워질 수 있을지 몰라”라고 한 뒤 아버지의 권총 방아쇠를 당겼다.

이는 AI에 대한 의인화와 맹신이 얼마나 위험한지 단적으로 보여주는 사례다. AI는 어떤 데이터로 학습하느냐에 따라 성능과 답변에서 큰 차이가 난다. 그만큼 AI 개발을 위해서는 빅데이터 관리와 활용이 중요하다.

전문가들은 미래에는 기업이나 정부·공공기관뿐 아니라 개인도 각자의 데이터 계좌에 데이터를 축적해 자산화하는 시대가 올 것으로 내다본다. AI 개발 기업 등에 각자의 데이터를 AI 학습용으로 활용토록 하는 조건으로 이자 등 보상을 받게 된다는 것이다. 이

과정에서 AI 기업과 데이터 소유자를 중개하는 데이터 은행 시스템을 잘 구축하는 게 관건이 될 전망이다. 

 

전체기사는 https://n.news.naver.com/article/011/0004427410 참조