에릭 슈미트 전 구글 CEO, 'AI 윤리·편향성 연구' 1495억원 기금 조성

전 구글 CEO 에릭 슈미트(Eric Schmidt)가 AI 윤리와 편향성 등을 바로잡는 연구를 위해 1억2500만 달러(약 1495억 원)의 기금을 조성했다고 외신이 16일(현지시간) 보도했다.

슈미트는 AI가 편견을 학습하고 남용하거나 지정학적 갈등에 이용 그리고 기술로 해결이 불가능한 문제 등을 연구하기 위해 자선 사업의 일종으로 이 프로젝트를 시작했다.
'AI2050'으로 알려진 이 기금은 5년에 걸쳐 개별 학계에 지급될 예정이다. 이 기금은 슈미트와 구글 임원인 제임스 메이카가 공동 의장을 맡아 운영한다.

이번 AI 연구 기금은 기업, 정부 및 시민 사회가 인공 지능의 유해할 수 있음을 인식하고 일자리 및 경제에 미치는 영향을 포함하여 인공 지능의 사회적 영향에 대해 광범위하게 비판하고 논의하고 있는 이 시기에 기업이 하지 못하는 부분의 AI연구가 필요하다고 판단해 시작하게 되었다고 한다.

슈미트가 제시한 '어려운 문제'에는 AI에 대한 신뢰를 훼손할 수 있는 문제, 소셜 네트워킹 알고리즘에 의한 (SNS)중독, 딥페이크와 같은 AI 기술의 고의적인 무기화가 포함된다.

슈미트는 외신과의 인터뷰에서 "어려운 문제 목록은 100년 전의 힐베르트 수학 문제에서 영감을 받았다. 많은 사람들이 (AI에 대해) 우려를 표명하지만 이에 대한 솔루션을 연구하는 사람은 거의 없다"라고 답했다. 또한 만약 이 분야에서 기금으로 인재를 찾을 수 있다면 훌륭한 결과라고 생각한다고 덧붙였다.

AI설계에서 이런 '어려운 문제'를 고려하지 못한다면 인공지능이 불공정하게 반응하거나 부패한 데이터 입력을 통해 편견을 전파하는 프로그램이 만들어질 수 있다.

실제로 구글, 아마존, 페이스북의 모기업 메타, 바이트댄스를 포함해 미국과 중국에서 AI 연구를 주도하는 기술 기업들은 이익만을 생각해 AI 알고리즘을 이용자들의 감시 목적으로 사용하는 등 윤리적 접근 방식이 부족하고 인공지능이 인간의 편견 등을 학습해 일어나는 알고리즘 편향 등으로 신뢰를 잃고 비판을 받고 있다.
슈미트는 오늘날 AI대기업들이 이익추구를 위해 저지르는 동일한 실수를 피하고 싶다고 말했다.

슈미트는 이 자금이 자선 목적으로 사용될 것이며 따라서 기업에서 일하는 사람들에게는 수여되지 않을 것이라고 말했다. 하지만 AI 학계와 연구는 경계가 불확실한 경향이 있어 딥마인드 와 오픈AI 같은 연구영역과 대학과 회사 연구소 같은 연구 장소 사이가 불명확하기 때문에 장담은 어렵다고 한다.

구글은 이 기금에 참여하지 않지만, 슈미트는 이 돈이 구글 자산에서 나오기 때문에 구글이 기여한것과 마찬가지라고 했다.

이 기금의 의장을 맡은 메이카에 따르면, 주니어 연구원은 고사하고 저명한 연구원조차도 이런 불명확한 문제를 연구할 때 자금 조달에 어려움을 격어서 다루기 힘든 AI 문제에 대해서는 연구하기 힘들다고 한다.

스탠포드, 옥스퍼드 등 명문대에서도 AI에 대한 연구비 지원이 연구기관보다는 기업이 투자하는 형식으로 되어 있기 때문에 상용화하기 어려운 연구는 투자를 받지 못한다는 것이다.

메이카는 "그들은 이렇게 크고 모호한 질문에 자금을 지원하기가 어렵다고 말한다. 일반적으로 보조금을 주는 연구의 범위는 매우 좁다. AI에 들어가는 돈의 대부분은 상용 애플리케이션 구축에 집중되어 있다. 이 부분은 상업적으로 매우 유용하다고 이미 증명되었기 때문에 효과를 예상할 수 있다. 그러나 이러한 '어려운 문제'에 연구비를 받는건 너무 어렵다"고 말하며 이런 기업이 하지 않는 문제를 해결하는 것이 이 기금의 취지라고 밝혔다.


김다정 글로벌이코노믹 기자 2426w@g-enews.com