유럽연합(EU) 의회가 지난달 세계 최초의 인공지능(AI) 법안을 통과시키며 AI 규제 마련에 속도를 내고 있지만 정작 기업들은 이를 준수하지 못할 것이란 예측이 나온다. 챗GPT의 개발사 오픈AI를 비롯해 구글, 메타 등 주요 정보기술(IT) 기업들의 AI가 EU의 AI 규제 법안을 준수하지 못할 것이란 분석이다. 유럽의 대기업들은 "EU의 AI 법안이 기업 경쟁력을 해칠 위험이 있다"며 EU 규제를 반대하고 있다.

“챗GPT-구글 바드 기반되는 언어모델, EU 규제 준수 못 할 것”

스탠퍼드 대학의 ‘인간중심 인공지능 연구소(HAI)’는 지난달 16일 ‘파운데이션 모델 공급자들은 EU AI 법 초안을 준수하는가?’라는 제목의 보고서를 공개했다. 같은 달 14일 EU 의회가 세계 최초의 AI 규제법 초안을 통과시키고 집행위원회 등과 최종 협상에 돌입한 상황에서 주요 AI 기업의 AI가 EU 법안의 요구 사항을 준수하는지 여부를 평가하기 위해서다. 파운데이션 모델은 챗GPT의 GPT-4, 구글 바드의 팜2(PaLM2) 등 생성형 AI 서비스의 기반이 되는 언어모델을 가리키는 용어로 ‘대규모 언어모델(LLM)’이라 부르기도 한다.

EU 의회는 AI 법 제정을 논의하는 과정에서 챗GPT가 출시돼 단숨에 수억 명의 사용자를 끌어모으자 법안에 생성형 AI와 그 기반이 되는 파운데이션 모델에 대한 규제도 곧장 추가했다. 파운데이션 모델의 개념을 정의하고 파운데이션 모델 공급자(기업)에게 △모델 위험 관리 △데이터 관리 △모델 신뢰성 확보 △환경 보호 △품질관리시스템 구축 △데이터베이스 등록 등의 의무를 부과했다. 이밖에도 법안은 AI가 초래할 수 있는 위험을 △고위험 △최소위험·무위험 △그 외의 일반적 위험 등으로 구분하고 고위험 AI는 투명성 보장과 정보 제공, 사람에 의한 감시 허용 등과 같은 규제를 규정했다.

하지만 스탠퍼드대 보고서는 "주요 파운데이션 모델 제공 기업 대부분이 EU AI 법안을 준수하지 못할 것"이라고 결론 지었다. 특히 '투명성(transparency)' 측면에서 EU AI 법의 규정 기준에 못 미친다는 분석이다. 보고서는 "파운데이션 모델 제공 기업 대부분이 EU AI 법안이 규정한 것과는 달리 데이터 및 연산 기능의 주요 특성에 대한 정보를 이용자에게 거의 제공하지 않고 있다"고 짚었다. 또 "AI 학습을 위해 사용된 저작권이 있는 데이터나 하드웨어, 학습을 통해 배출된 결과물 등에 대한 설명이 부족했다"고 했다.

보고서는 EU AI 법안에서 파운데이션 모델 제공 기업에 대한 22가지 요구 사항를 추출하고 이 가운데 12개의 분석 기준을 선택해 10개 기업의 파운데이션 모델을 분석했다.

기업별 종합 점수를 분석을 살펴보면, 어떤 기업의 모델도 EU 법안의 기준을 충족하지 못했다. 허깅페이스가 만든 블룸이 최고점인 36점 구글의 팜 2는 27점, 오픈AI의 GPT-4는 25점, 메타의 모델은 21점을 기록하며 만점인 48점에 못 미치는 결과를 냈다. 대부분이 데이터 저작권, 위험 완화, 평가 등 4가지 영역에서 특히 낮은 점수를 받았다.

보고서는 "EU의 AI 법은 현재 세계에서 가장 중요한 AI 규제 이니셔티브다. 전세계 정책 입안자들은 EU AI 법으로부터 영감을 받고 있고, 다국적 기업들은 단일 AI 개발 프로세스를 유지하기 위해 기존의 글로벌 업무 관행을 변경할 가능성이 있다"고 했다. 그러면서 "파운데이션 모델 제공 기업들의 저작권, 에너지(환경 보호), 위험에 관한 평가에 대한 요구 사항 준수는 특히 열악하며, 이는 개선할 수 있는 영역임을 보여준다"며 "공급자는 투명성을 향상시키는 산업 표준을 설정하기 위한 조치를 취해야 한다"고 강조했다.

유럽 대기업들 "EU AI 법, 기업 경쟁력 해칠 위험"

유럽 기업들도 EU의 AI 법 초안에 대해 우려의 목소리를 높이고 있다. 파이낸셜타임스(FT)의 지난달 30일 보도에 따르면 유럽 대기업 수십여 곳의 고위 임원들은 EU의 엄격한 AI 규제가 지닌 위험성을 경고하고 나섰다. 특히 AI 챗봇 기술을 너무 엄격하게 규제하는 것 아니냐는 비판이다.

독일의 지멘스, 프랑스의 에어버스와 르노 등 기업의 임원 150여 명은 "AI가 기술 아방가르드에 다시 합류할 수 있는 기회를 제공했다"면서도 "너무 엄격한 규제가 그 기회를 억누를 수 있다"는 내용의 서한을 EU 의회와 회원국 정부 등에 보냈다. 이들은 "기술이 발전함에 따라 법의 이행을 모니터링하기 위해 EU는 업계 전문가로 구성된 규제 기관을 설립해야 한다"고 촉구했다.

홍윤지 기자