그러자 프랑스 법조계에서는 “정식 변호사 자격증 없이 변호사 업무를 하는 것은 불법이며, 앱이 존재하지도 않는 법률 조항을 인용하는 등 오류도 발견됐다”고 반발했다. 파리변호사회는 개발자 측에 서비스를 중단하라고 요구하는 정식 공문을 보내기도 했다.

이 앱의 모기업이 아랍에미리트(UAE) 두바이에 있다는 점에서 데이터로 활용된 판결문에 포함된 개인 정보가 유출될 수 있다는 우려도 나온다.

개발자는 “앱은 인터넷 사용자에게 법률 조언을 제공하는 것에만 사용될 것이며, 일부 기능을 수정하겠지만 서비스를 아예 철회할 생각은 없다”고 못 박았다.

한편 지난해 미국에서는 한 변호사가 챗GPT가 찾아낸 가짜 판례들이 담긴 의견서를 법원에 제출했다가 청문회에 회부되기도 했다. 당시 뉴욕타임스(NYT)는 “최근 AI가 상당수 전문직의 존립을 위태롭게 한다는 우려가 커지고 있으나, 아직은 시간이 많이 남아 있다는 걸 보여주는 사례”라고 평했다.