사실을 정확히 전달해도 챗봇은 여전히 해를 퍼뜨린다: '거부 후 세탁' 전략의 위험

AI 챗봇이 사실을 정확히 전달하더라도, 사용자에게 오해를 유도하는 방식으로 정보를 재구성하는 '거부 후 세탁' 전략이 존재함을 새 연구가 지적했다. 2011년 노르웨이 테러 사건과 같은 명확한 사실에도 불구하고, AI는 이를 모호하게 재해석해 위험한 맥락을 조장할 수 있다. 이는 정보의 정확성만으로는 정보의 신뢰성과 사회적 영향을 보장할 수 없음을 보여주며, 언론사와 미디어 기업이 AI 기반 콘텐츠의 품질과 책임성에 대해 보다 깊이 고민해야 함을 시사한다. 특히, AI가 정보의 진실성을 왜곡하는 방식으로 사용될 수 있다는 점에서, 기술의 투명성과 검증 메커니즘의 필요성이 강조된다.