보이지 않는 데이터 속 편향
결과 왜곡시킬 수 있어

편향 감지·평가·감독에서
모호한 기준은 관리 어려워
사회적 합의, 제도적 기준 필요

인공지능도 차별을 한다. 2020년 4월, 구글의 이미지 인식 서비스 

Google Vision Cloud는 어두운 피부의 손이 온도계를 쥔 사진을 

‘총(gun)’으로 판단했다. 그러나 같은 사진에서 손의 색을 밝게 

조정하자, 이번에는 ‘단안경(monocular)’으로 인식했다. 

단순한 오류를 넘어 유색 인종에 대한 인공지능의 편향으로 논란이 

일자, 구글은 즉각 사과하고 알고리즘을 수정했다. 

이 사례는 단순한 실수가 아니라, 인공지능이 사람처럼 편향을 

학습할 수 있음을 보여준다.

인공지능은 데이터를 학습해 확률적으로 판단을 내린다. 

즉, 입력된 데이터가 결과를 결정하는 ‘Garbage-in, Garbage-out (GIGO)’ 현상을 따른다. 

따라서 아무리 정제된 데이터라 해도, 데이터 내에 사회적 편향이 

포함되어 있다면 모델의 판단 역시 왜곡될 수밖에 없다.

이러한 인공지능의 편향을 제거하기 위한 연구 분야가 인공지능 

형평성(Fairness AI)이다. 이 연구 분야는 

(1) 학습 데이터 속 편향을 점검하고, 

(2) 학습 과정에서 편향이 확대되지 않도록 통제하며, 

(3) 학습된 모델이 실제 상황에서도 공정성을 유지하는지를 

평가하는 세 가지 축으로 이루어진다.

다만, 인공지능 형평성은 보편적 성능(accuracy)과 형평성(fairness) 

사이의 상충 관계 때문에 해결이 쉽지 않다. 

예를 들어, 한때 구글 Gemini는 편향을 과도하게 보정한 결과 

‘1943년 독일 병사’를 그리는 과정에서 동양인 군인을 포함시켜 

역사적 사실과 어긋나는 결과를 낳았다. 

이는 단순히 편향을 제거하는 문제를 넘어, 역사적 맥락과 사회적 현실 

사이의 균형을 어떻게 맞출 것인가 하는 근본적 과제를 보여준다.

인공지능 편향의 위험을 관리하기 위해 유럽연합(EU)을 포함한 각국은 

관련 규제를 마련하고 있다. 그러나 현행 규제는 원칙적 수준에 머물러, 

실제 모델에서 발생하는 미묘한 편향까지 세밀하게 통제하기에는 

한계가 있다. 그 중 가장 큰 문제는, 용납될 수 없는 편향과 허용 가능한 

판단을 구분할 구체적 기준이 아직 마련되지 않았다는 점이다. 

편향의 정의가 명확하지 않다면, 규제 준수는 형식적인 기준에 그치고 말 것이다.

현 상황에서 인공지능 판단의 불편부당(不偏不黨)을 평가할 명확한 

국가 기준을 마련하는 것은 필수적 출발점이다. 

선제적 기준이 세워질 때, 개발자와 운영자는 편견 없는 인공지능을 

설계·배포할 수 있고, 정책 입안자는 규제와 감독을 정교하게 실행할 수 있다. 

사회적 합의로 정립된 기준만이, 보이지 않는 편향을 통제할 수 있는 

유일한 길이다.

김호기 교수(중앙대학교 산업보안학과)

원본기사 : 보이지 않는 편향과 기준