전 구글 안전책임자 "AI, SNS보다 아이들에게 더 위험할수도"

인공지능(AI)이 사회관계망서비스(SNS)보다 아동·청소년에게 더 심각한 위험을 초래할 수 있다는 경고가 나왔다.

22일(현지시간) 로이터통신에 따르면 톰 시걸 전 구글 신뢰·안전 담당 부사장은 시민단체 '커먼센스미디어'가 설립한 '청소년 AI 안전 연구소'의 첫 집행이사로 취임하면서 "AI가 아동에게 미치는 영향과 관련해 매우 끔찍한 상황에 부딪혀 있다"고 말했다.

ⓒ게티이미지뱅크

그는 로이터와의 인터뷰에서 "기술 업계가 외부의 도움 없이 스스로 문제를 해결할 것이라는 생각은 비현실적"이라며 "거대 기술기업들이 SNS 개발 과정에서 충분한 안전장치를 마련하지 않았던 실수를 AI에서도 반복하고 있다"고 지적했다.

특히 아동을 대상으로 서비스를 제공하면서도 안전 대책이 충분하지 않다고 비판했다.

시걸 이사는 예상되는 피해로 청소년 자살과 정신질환, AI 의존에 따른 '인지 외주화' 등을 언급했다. 인지 외주화는 AI에 지나치게 의존하면서 스스로 생각하고 판단하는 능력이 저하되는 현상을 뜻한다.

그는 "어린이의 챗봇 접근을 제한할 수 있는 강력한 연령 확인 절차와 검색 결과에 자동으로 표시되는 AI 답변을 이용자가 끌 수 있는 선택지가 필요하다"고 강조했다. 또 "자동차 충돌시험처럼 AI의 위험성을 객관적으로 측정할 수 있는 공개 기준을 마련하겠다"고 덧붙였다.

구글 측은 "AI 검색이 아동·청소년의 정보 탐색에 유용하다"고 밝혔고, 오픈AI 역시 "이용 가능 연령에 미달하는 이용자를 다양한 행동 분석을 통해 식별하고 있다"고 설명했다.

시걸 이사는 지난 2004년부터 2019년까지 구글에서 근무한 뒤 AI의 유해 요소를 감지하는 스타트업 '트러스트랩'을 공동 창업했다. 청소년 AI 안전 연구소에는 오픈AI 재단과 앤트로픽도 후원사로 참여하고 있다.