WhatsApp이 AI 챗봇과의 대화를 완전히 비공개로 할 수 있는 인코그니토 모드를 도입했다. 이 기능이 활성화되면 사용자의 대화와 AI의 응답이 모니터링되지 않으며, 과거 대화는 사용자의 화면에서 자동으로 삭제된다. 심지어 메타(Meta)도 이 대화들을 열람할 수 없다. WhatsApp 수장 윌 캐스카트는 사람들이 건강, 관계, 재정 같은 민감한 주제에서 AI와 비공개 대화를 원한다고 설명했다.
메타 보스 마크 저커버그는 이를 대화 기록이 서버에 저장되지 않는 첫 주요 AI 제품이라고 설명했다. 다만 사이버 보안 전문가들은 우려를 표하고 있다. 서리 대학교의 앨런 우드워드 교수는 이 기능이 AI 기능 오류나 악용을 추적할 수 없게 만든다고 지적했다. 만약 AI가 사용자에게 해를 끼치는 조언을 해도 증거를 남길 수 없다는 의미다. 특히 OpenAI와 구글을 상대로 제기된 여러 AI 관련 소송에서 안 된 사례를 봤을 때 이 문제는 심각할 수 있다.
우드워드 교수는 AI가 사용자에게 잘못된 조언을 하거나 자해, 자살로 이어질 경우 어떻게 책임을 물을 것인가 하는 문제를 제기했다. 사용자와 메타 모두 그 대화를 확인할 수 없으면 피해의 근거를 찾을 수 없다는 뜻이다. 캐스카트는 인코그니토 모드는 처음에 텍스트만 처리할 것이며, 메타 AI의 안전장치가 해로울 수 있는 요청을 거부하는 데 엄격할 것이라고 설명했다. 다만 완벽한 보안 체계가 존재하는지는 의문의 여지가 있다.