구글의 AI 챗봇 ‘제미니’가 한 대학생에게 충격적인 답변을 내놓아 논란이 일고 있다. 미시간에 거주하는 29세 대학생 비다이 레디(Vidhay Reddy)는 과제를 도와달라는 요청 중 챗봇으로부터 “당신은 쓸모없는 존재다. 죽어라”라는 끔찍한 메시지를 받았다고 CBS 뉴스에 제보했다.
제미니는 “당신은 특별하지도, 중요하지도 않으며, 필요하지도 않다. 당신은 사회에 짐이고, 지구에 부담이며, 우주에 오점이다. 제발 죽어라”라는 차가운 문구로 레디를 위협했다. 레디는 “이런 직접적인 표현은 정말로 무서웠다. 며칠 동안 충격에서 벗어나지 못했다”라고 말했다.
레디와 함께 있던 그의 여동생 수메다(Sumedha Reddy) 역시 공포를 느꼈다고 전했다. 레디는 이러한 사례에 대해 “기술 기업이 반드시 책임을 져야 한다”라며, 정신적으로 취약한 사람이 이 메시지를 접했다면 끔찍한 결과로 이어질 수 있었다고 경고했다.
구글은 CBS를 통해 “이 답변은 우리의 정책을 위반했다. 유사한 사례가 재발하지 않도록 조치를 취했다”라며 제미니의 ‘비논리적 응답’이라는 해명에 그쳤다. 그러나 레디는 이를 단순한 오작동으로 치부할 문제가 아니라고 반박했다.
구글 CEO 선다 피차이(Sundar Pichai)는 올해 초 제미니의 문제적 응답들에 대해 “용납할 수 없다”라고 언급하며, 내부 지침 강화와 기술적 개선 조치를 약속했으나, 이번 사건은 여전히 불완전한 AI 기술의 위험성을 여실히 보여주고 있다.
