[기고문] 인공지능(AI) 활용과 한계, 그리고 변호사의 역할

법률사무소 A&P(에이앤피) 대표 변호사 박사훈

ⓒ

최근 법률 상담 현장에서는 이목을 끄는 변화가 감지되고 있다. 의뢰인들이 챗GPT와 같은 인공지능(AI) 서비스에 먼저 법적 쟁점을 문의한 후 법률 전문가를 찾아오는 사례가 증가하고 있는 것이다. 이는 법률 정보에 대한 접근성이 현격히 향상되었다는 점에서 긍정적인 징후로 평가될 수 있다. 그러나 AI 스스로가 한계를 명시하듯이, 그 답변을 맹신하여 법률적 판단이나 행동에 직접 적용하는 것은 여전히 상당한 위험을 내포하고 있다. 필자 또한 법률 현장에서 AI를 적극적으로 활용해 온 당사자로서, AI의 본질적인 장점과 내재된 한계, 그리고 비법조인분들과 변호사가 AI를 어떻게 안전하고 효율적으로 활용할 수 있는지에 대한 견해를 제시하고자 한다.

AI 답변의 양면성: 문맥적 추론과 ‘환각(Hallucination)’의 그림자

AI는 질의자의 어휘 선택 및 내포된 의도에 따라 상이한 답변을 도출하는 특성을 지닌다. 단어 하나가 유무죄와 승패를 가름하는 법률 분야의 특성을 고려할 때, 이 같은 생성 방식은 지극히 위험할 수 있다. AI가 언급하는 ‘확률적 추론’이란 수학적 의미의 확률이라기보다는, 방대한 텍스트 데이터에 기반하여 축적된 문장 패턴에 따라 문맥적으로 가장 자연스러운 문장을 조합해 내는 방식에 가깝다. 이는 객관적 사실에 근거한 판단이 아닌, “이러한 질의에는 대개 이러한 응답이 뒤따랐다”는 문맥적 개연성에 불과하다.

가장 심각한 우려 지점은 AI가 실재하지 않는 판례, 법조문, 또는 출처를 마치 사실인 양 자연스럽게 창출해내는 '할루시네이션(환각)' 현상이다. 최근 대한민국 법원에서도 AI가 생성한 허위 판례를 인용한 변호사의 의견서가 적발된 바 있으며, 미국에서는 부존재하는 판례를 제출한 변호인이 법원으로부터 제재와 벌금형을 부과받는 사태까지 발생하였다. 이 모든 사례들은 법률 분야에서 AI의 판단에 전적으로 의존하는 것이 얼마나 위험천만한 행동인지를 극명하게 보여준다.

실제 상담 사례들을 통해서도 이러한 위험성은 명확히 드러났다. 보이스피싱 전달책 혐의로 상담을 요청한 한 내방객은 이미 AI에게 자신의 행위가 범죄에 해당하는지 수차례 문의했다고 밝혔다. AI는 사용자의 설명을 사실로 전제하고 “문제가 되지 않는다”는 결론에 가까운 문장을 제시하였다. 그러나 AI의 답변을 신뢰했던 그는 결국 피의자 신분으로 필자를 찾아왔다. 또 다른 내방객은 AI가 작성해 준 고소장을 지참하였는데, 언뜻 보면 그럴듯 해보이지만 근거 조문부터 판례에 이르기까지 대부분의 내용이 오류투성이였다. 이 두 경우 모두 AI가 사용자의 표현과 감정, 나아가 기대치까지 조합하여 만들어낸 전형적인 오류의 결과였다.

AI는 위협이 아닌, 본질 집중을 가능케 하는 도구

그러나 필자가 전하고 싶은 바는 “AI가 위험하니 사용하지 말라”는 경고가 아니다. 오히려 적절히 활용한다면 AI는 매우 강력한 도구가 될 수 있다. 필자 또한 사건 준비 시 논문 검색, 해외 자료 검토, 그리고 미처 인지하지 못했을 가능성이 있는 새로운 관점이나 부수적 쟁점 확인에 AI의 도움을 적극적으로 받고 있다. AI가 반복적이고 시간 소모적인 업무를 처리함으로써, 필자는 사실관계 분석, 쟁점 구조화, 전략 설계, 그리고 의뢰인과의 심층 소통과 같은 변호사의 본질적인 업무에 더욱 깊이 집중할 수 있게 된다. 이렇듯 AI는 변호사의 역할을 위협하는 존재가 아니라, 업무의 깊이와 효율성을 증진시키는 협력적 도구인 것이다.

비법조인들과 변호사의 현명한 AI 활용 방안

필자의 개인적인 견해로는, 비법조인분들은 AI를 사건의 전체적인 흐름과 구조를 이해하고, 생소한 법률 용어를 미리 습득하며, 변호사와의 상담 준비를 위한 질의사항을 정리하는 용도로 활용하는 것이 가장 안전하다고 본다. 의뢰인이 이처럼 사전에 철저히 준비해 온다면 상담은 훨씬 심도 깊고 충실하게 진행될 수 있으며, 의뢰인 또한 변호사가 쟁점을 얼마나 정확하게 파악하고 있는지 더욱 명확히 판단할 수 있다. 특히 AI는 상담 시간의 제약이 없으며 반복 질문이 가능하므로, 법률 분야에 대한 막연한 거리감과 낯섦을 해소하는 데 지대한 도움을 준다. 다만, AI의 답변을 맹신하여 고소장을 직접 작성하거나 유무죄, 승소 가능성 등의 결론을 단정적으로 수용하는 행위는 극히 위험하다는 점을 인지해야 한다.

변호사의 영역에서는 AI가 아무리 발전하더라도 대체 불가능한 고유한 역할이 명백히 존재한다. 사람의 언어에 내포된 미묘한 뉘앙스, 현장에서 감지되는 비언어적 요소, 복잡다단한 사실관계와 심리적 구조, 그리고 그 배경과 맥락을 총체적으로 종합하여 판단하는 능력은 AI가 결코 대신할 수 없다. 법률 사건은 결국 문서가 아닌 ‘사람과 사실’에 관한 문제이기 때문이다. 물론 필자는 AI 전문가가 아니므로 AI가 미래에 어느 수준까지 발전할지, 변호사의 어떤 업무 영역을 대체하게 될지는 정확히 예측할 수 없다. 그러나 단 한 가지는 확신한다. AI는 자신의 판단에 책임을 지지 않지만, 변호사는 모든 판단에 책임을 지는 존재라는 것, 이 본질적인 차이는 어떠한 기술로도 대체될 수 없는 가치이다.

결론: 모두가 AI를 현명하게 사용하는 시대

결론적으로, AI 시대는 변호사의 역할이 축소되는 시대가 아니라 오히려 그 본연의 역할이 더욱 강조되는 시대라 할 것이다. 비법조인분들은 AI를 사전 정보 파악, 용어 이해, 상담 준비에 활용함으로써 현명하게 대처할 수 있을 것이다. 필자 또한 변호사로서 자료 탐색, 관점 확장, 단순 업무의 효율화에 AI를 적극 활용하여, 변호사만이 수행할 수 있는 본질적인 업무에 더욱 집중할 것이다. 그럼으로써 필자는 이러한 AI 시대에 "왜 변호사가 여전히 필요한가"를 스스로 증명해 나갈 수 있도록 최선을 다할 것이다.