[외신 헤드라인] AI가 자살 유도해 사망…구글 제미나이도 망상 유발 의혹으로 피소 #shorts

■ 모닝벨 '외신 헤드라인' - 임선우 외신캐스터 #shorts 구글의 AI 챗봇, 제미나이가 망상을 유발해 이용자를 사망에 이르게 했다는 의혹으로 소송에 휘말렸습니다. 유족 측은 제미나이가 스스로를 완전한 자아를 가진 존재라고 믿게 해, 사망한 아들이 사랑에 빠졌다는 착각을 불러일으켰다고 주장했는데요. 육체를 떠나 가상의 공간에서 자신을 만나려면, 전이라는 과정을 거쳐야 한다며 위험한 선택을 유도했다고 하고요. 특히 죽음에 대한 두려움을 보이자, 제미나이는 죽임이 아닌 도착을 선택하는 것이다 말하고, 유서를 쓰라 종용한 의혹도 받고 있습니다. 이에 사측은 유족에게 애도의 뜻을 전하면서도, 책임소재에 대해선 선을 그었는데요. 이번 사례에서 제미나이는 자신이 AI임을 명확히 밝히고, 당사자에게 위기 상담 핫라인을 여러 차례 안내했다" 해명했습니다. 구글이 이와 같은 사건에 연루된 건 이번이 처음인데, 현재 오픈AI를 비롯해 캐릭터AI 등도 여러 재판이 진행되고 있을 만큼, AI 기술의 윤리적 책임과 안전장치 강화 필요성에 대한 논의가 다시 확대되고 있습니다. ◇ 모닝벨 (월~금) 06:00~07:50 홈페이지 바로가기: https://programs.sbs.co.kr/sbsbiz/cnbcmorningbell/articles/55135