도구는 지난 수백만 년 동안 인류를 번영으로 이끌어왔다. 

불과 바퀴, 활자와 컴퓨터에 이르기까지 인류의 역사는 곧 도구의 역사였다. 필자가 이해하는 도구의 본질은 분명하다. 도구는 인간의 행위를 더 쉽게 만든다. 사냥을 수월하게 하고, 이동을 단축하며, 지식의 확산을 가속한다. 그러나 ‘쉽게 만든다’는 이 속성은 언제나 긍정적 결과로만 이어지지 않는다.

필자는 도구의 위험을 두 층위로 구분한다. 

첫째는 외재적 위험이다. 어떤 행위를 수월하게 만든다는 것은, 선한 행위뿐 아니라 해로운 행위 역시 수월하게 만든다는 뜻이다. 칼은 요리사의 손에 들리면 훌륭한 음식을 완성하고, 의사의 손에 들리면 생명을 구한다. 그러나 범죄자의 손에 쥐어질 경우 전혀 다른 결과를 낳는다. 기술의 기능은 중립적일 수 있으나, 그 사용의 맥락은 결코 중립적이지 않다. 

둘째는 내재적 위험이다. 이는 복잡한 도구 자체에 내포된 구조적 한계와 결함을 의미한다. 외장하드의 예기치 못한 고장은 소중한 데이터를 한순간에 사라지게 하며, 비행기의 엔진 장치의 오작동은 큰 인명 피해로 이어진다. 사용자의 의도와 무관하게 발생하는 이러한 위험은 도구 자체의 한계로 인해 발생된다.

안타깝게도 오늘날 인공지능은 이 두 위험을 동시에 품고 있는 도구다. 외재적 위험의 측면에서 이미 딥페이크 영상 제작, 허위 정보의 대량 유포, 자동화된 범죄 수법 등 이전에 없었던 범죄 사례가 다수 현실화되었다. 

나아가, 인공지능은 수십억 개의 매개변수 위에서 작동하는 확률적 시스템이라는 점에서 탈옥, 민감 정보 유출과 같은 보안 구조적 문제를 가지고 있다. 

최근 인공지능이 비서처럼 사용자의 컴퓨터 전반을 제어하도록 지원하는 오픈클로(Open

Claw)가 네이버, 카카오 등에서 보안 우려로 차단된 사례는 인공지능의 내재적 위험성을 단적으로 보여준다.

문제는 이러한 인공지능의 이중적 위험 구조 속에서 과연 충분한 자정 작용이 이루어지고 있는가 하는 점이다. 

인공지능 산업은 오랫동안 성능 향상과 시장 선점을 최우선 과제로 삼아왔고, 지금도 그 흐름은 크게 달라지지 않았다. 고성능 모델을 둘러싼 경쟁이 가속화되는 사이, 안전성과 책임성이라는 가치는 후순위로 밀려난 측면을 부인하기 어렵다. 이러한 배경에서 제도적 대응은 선택이 아니라 필수에 가깝다. 유럽연합의 인공지능법(EU AI Act)에 이어 국내 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’이 지난 1월 22일 시행된 사실은 자정 작용에만 기대기 어렵다는 사회적 공감대의 존재를 방증한다.

그럼에도 불구하고 현행 제도는 인공지능의 복잡한 구조와 작동 원리에 비해 여전히 추상적 원칙에 머무르는 경향이 있다. 물론 제도를 지나치게 세밀하게 설계할 경우 기술 발전과 혁신의 동력이 위축된다. 결국 필요한 것은 균형 감각이다. 외재적 악용을 억제할 책임 체계를 분명히 하면서도, 내재적 한계를 최소화하기 위한 기술적 안전 기준을 함께 고도화해야 한다. 

앞으로의 연재에서는 인공지능 규제의 의의와 한계를 차례로 짚어보고, 신뢰성을 실질적으로 담보하기 위한 기술적·제도적 방향을 구체적으로 모색해보고자 한다.

김호기 교수(중앙대학교 산업보안학과)

원본기사 : 인공지능의 이중적 위험과 규제 < AI와 사는 법 < 칼럼 < 오피니언 < 기사본문 - 법률신문