From The Invisible Hand RSS FEED

인공지능 이슈와 ESG 경영

인공지능(AI, Artificial Intelligence)은 이미 경제·사회 전반에 큰 변화를 가져오고 있으며 앞으로의 발전 가능성은 가늠하기조차 어렵다. 하지만 AI는 이런 가능성 못지않게 많은 한계와 리스크를 안고 있기도 하다.

먼저 현존하는 데이터가 인종, 성, 종교 등에 대해 편향성을 가지고 있기 때문에 이 데이터를 학습한 AI가 편향적인 결과를 내놓는 경우가 있다. 그리고 데이터나 알고리즘의 문제로 AI가 잘못된 결과를 내놓을 가능성이 항상 존재하는데, 그 오류가 자율주행 자동차처럼 필수적이고 위험도가 큰 경우에는 피해가 특히 심각하다. 또한 AI가 결과를 내놓는 과정이 블랙박스와 같아서 AI가 왜 이런 결과를 내놓는지 설명할 수 없다는 점이 투명성과 공정성 관점에서 볼 때 문제다. 마지막으로, AI를 활용하여 가짜 뉴스를 만든다거나 보이스 피싱 등 범죄에 활용하는 등 AI를 악용할 여지도 크다.

ESG 경영 관점에서 볼 때, 이 같은 AI 리스크들은 곧 기업의 사회적 책임에 해당하는 “Social” 이슈들이다. 인종 차별, 정보 오류에 따른 소비자 피해, AI의 블랙박스 특성으로 말미암아 소비자 불만에 투명하고 공정하게 대처하지 못해서 발생하는 문제, 고객 정보를 잘못 관리함으로써 발생하는 프라이버시 문제 등 이슈 리스트는 끝이 없다.

이러한 이슈들에 제대로 대응하지 못했을 때 발생할 비용, 명성 및 규제 리스크는 매우 심각할 수 있다는 점을 감안하면, 인공지능 이슈는 “Governance” 관점에서 적극적으로 관리해야 할 문제다. 특히 기업지배구조의 정점에 있는 이사회가 새롭게 부각되고 있는 AI 거버넌스 정비에 관여할 필요가 있다.

`

기업들은 AI 거버넌스 이슈에 어느 정도 준비되어 있는가

그러면 기업들의 실제 준비 정도는 어떠한가? 딜로이트가 미국 기업들을 대상으로 AI 거버넌스 실태에 대한 설문 결과를 최근 발표하였는데, 그 주요 내용을 간단히 살펴보도록 한다.

먼저 AI 활용 프레임워크나 정책, 또는 행동규범 등이 있느냐는 질문에 대해, 응답 기업의 불과 13%만이 그렇다고 답할 정도로 AI 거버넌스 정립은 매우 초기 단계에 머물고 있다.

한편 AI 이슈에 대응하기 위해서 프라이버시, 사이버, 리스크 관리, 기록 보유 등 기업의 방침을 바꾼 적이 있느냐는 질문에 대해서도, 9%의 기업만이 그렇다고 답할 정도로 AI 시대와 합치하는 제도 정비가 이루어지지 못하고 있음을 보여주고 있다.

AI 거버넌스에서 이사회의 역할에 대해서는, 이사회에서 주기적으로 AI 관련 주제를 다루고 있는 기업은 15%에 지나지 않았고, 이사회에서 아직 한 번도 다루지 않았다는 기업이 44%, 필요에 따라서 다룬다는 기업이 37%에 달한다. 한편 이사회 내 어떤 위원회에서 AI 주제를 다루냐는 질문에 대해서는, 감사(16%), 위험관리(7%), 기술(5%) 위원회에서 다룬다는 응답과 함께 8% 기업은 전체 이사회에서 다룬다고 답했다. 과반수 이상의 나머지 기업들은 AI에 관해 이사회가 다룬 적이 없거나 구체적인 역할을 부여하지 않은 것으로 나타났다.

직원들의 AI 사용과 관련해서는, 34% 기업만이 전부(9%), 또는 특정 용도(25%)에 대해서 AI 사용을 허용하고 있으며, 나머지 기업들은 불허하고 있거나(16%), 아예 허용 여부에 대한 별도 지침이 없는(48%) 것으로 나타났다. 끝으로, 아직 소수 기업만이 직원(11%)이나 이사(6%)들에게 AI 교육·훈련을 제공하고 있다.

인공지능 시대와 합치하는 거버넌스

AI의 잠재적 리스크가 큰데도 불구하고 이처럼 기업들의 준비가 부족하다는 것은 최고경영진의 관심이 없다는 뜻이다. 따라서 문제 개선을 위해서 이사회의 관여가 필요하다. 먼저 이사회는 경영진에게 AI 관련 보고를 요구하고 이를 이사회에서 심도 있게 토의할 필요가 있다. 다음 단계로, 이사회는 (1) 이사회에서 AI 이슈를 주기적으로 논의하기로 함으로써 AI가 이사회의 아젠다임을 공식화하고, (2) AI 문제를 담당할 임원 및 조직을 갖추도록 하며, (3) AI 관련 사고나 조사 결과를 주기적으로 이사회에 보고하도록 할 필요가 있다.

이사회 지휘하에 이루어질 AI 거버넌스 실제 설계는 다음 네 가지 요소로 구성되어 있다.

첫째, 먼저 기업의 AI 윤리 원칙을 정립하고 여기에 맞춰 업무 규정 및 지침을 수립한다.

둘째, AI 전략 및 통제를 전담할 조직을 신설하고, 전담 조직, AI 기술 조직, 현업 조직 간의 역할을 정립한다.

셋째, AI 거버넌스 구축을 위해, 기획 및 설계, 개발, 평가·검증, 운영 단계별로 거버넌스 프로세스를 상세 설계하고 역할을 지정한다.

넷째, AI 모델에 대한 검증은 성능, 편향성, 설명 가능성 기준으로, 데이터에 대한 검증은 적합성 및 정확성 관점에서 검증한다.

새로운 기술의 안착 여부는 기술의 완성도보다 기업 문화나 인센티브 등 제도적 요인에 달려있다는 것은 널리 알려진 사실이다. 이런 관점에서 AI 시대의 성공적 정착에는 좋은 AI 거버넌스 정립이 필수적이다.