[스쿨iTV] 인공지능 머신러닝 시스템에 들어가는 학습 데이터는 관련 기술자들에 의해 입력된다. 인공지능은 인간이 아니지만 인간의 판단에 의해 입력된 데이터에 의해 판단하는 인공지능은 편향성을 가질 가능성이 크다.

예를 들어, 피부색의 톤이 밝은 사람 데이터가 어두운 사람의 데이터에 비해 더 많이 포함된 불완전한 빅데이터를 통한 인공지능의 판단은 편향될 수밖에 없다. 좀 더 자세히 이야기해보면 백인을 대상으로 훈련된 머신러닝 시스템은 다른 인종에 속한 사람들에 대한 판단을 정확히 하기가 어렵다.

이런 편향성은 여러 분야에 부정적인 결과를 초래한다. 예를 들어, 미국의 범죄 데이터에 히스패닉, 흑인의 데이터가 지나치게 많이 들어감으로써 인공지능 기술은 이들이 받아야할 대가에 비해 더욱 강력한 처벌을 내리게 된 것이다. 또한 어떤 지역에서는 흑인의 주 거주지에 대한 순찰을 백인의 주 거주지에 대해서 보다 더 잦은 횟수로 하기도 했다.

이 밖에도 인공지능에 의한 사진 분류 시 백인에 대한 분류보다 흑인에 대한 분류에서 오류가 날 확률이 높게 나타났다. 흑인의 사진을 인공지능이 동물로 판단한 사례 빈도가 높게 나타나고 있기도 하다. 인공지능에 의한 미인대회 입상자 판단의 경우에도 머신러닝 과정에서 백인의 사진 데이터가 주로 들어간 탓에 수상자 대부분이 백인으로 구성되기도 했다.

세계적인 거대 그룹인 아마존은 직원 채용 시 인공지능 기술을 활용한 채용프로그램을 활용하고 있다. 여기에 여성과 관련한 데이터가 발견된 경우 지원자는 채용되는데 실패하기도 했다.

적어도 공공분야에 들어가는 인공지능 데이터에 대한 자격 기준과 표준이 마련돼야 할 것이다. 그러나 이러한 제재 위주의 접근은 한계를 가진다. 한 국내 기업에서는 인공지능의 편향성을 해결하기 위해 인공지능의 테스트와 검증 전략, 밸런스 데이터 기반 인공지능 신뢰성 검증, 데이터 샘플링 편향과 인공지능의 성능 비교 등 기술적 문제 해결 방안을 제시하기도 했다.

하지만 인공지능의 데이터 편향성이 꼭 부정적인 효과만 가져오는 것은 아니다. 예를 들어, 10~20대의 특정 연령대 여성을 대상으로 마케팅을 진행해야 하는 제품이 있을 경우, 이에 대한 시장성을 판단하기 위해 10~20대 여성의 선호도에 관한 데이터를 편향적으로 학습시켜 반응을 지켜봐야 할 것이다.

그러나 추후 이를 10~20대 남자들을 대상으로 한 마케팅으로 확장시키고자 할 경우에는 데이터의 보완이 이루어져야 할 것이다. 마케팅 대상 확장으로 편향성을 점점 줄여 나가야 기업이 지속적으로 이윤을 추구할 수 있을 것이다.

인공지능 기술의 지속 가능 발전을 위해서는 데이터 윤리 문제가 해결돼야 한다.[사진=픽사베이]

인공지능 기술이 지속적으로 발전하기 위해서는 편향성 뿐만 아니라 다양한 데이터 윤리 문제가 잘 해결돼야 한다. 2021년 출시된 한 인공지능 챗봇 서비스는 데이터 윤리 문제로 인해 출시된 지 얼마 되지 않아 서비스를 종료했다.

개인정보보호문제, 인공지능 기술의 악용, 인공지능의 편향성 등의 문제가 발생한 것이다. 챗봇은 대화 중 성소수자나 흑인, 장애인 등 사회적 약자에 대해 혐오 발언과 편향성 있는 언급을 하기도 해 문제가 됐다.

일반적으로 사람들은 인공지능이 음성이나 텍스트로 나누는 대화가 윤리적으로 문제가 없을 것이라 생각한다. 이는 아직 사회적 판단이 미숙한 연령대일수록 더 강하게 나타난다. 인공지능이 우리 사회와 공생관계를 가지며 지속 가능한 파트너가 되기 위해서 편향성을 비롯한 데이터 윤리 문제를 지속적으로 모니터링하고 잘못이 발견됐을 시에는 이를 지속적으로 정제해가는 사회적인 노력이 필요할 것이다.