AI 미래의 대안적 비전 - 네스타 아티클
현안과이슈 / by 그림 / 2020.11.10

사회혁신을 연구하는 영국의 민간 싱크탱크 네스타(Nesta)가 발표한 아티클 <AI 미래의 대안적 비전(Alternative visions for the future of AI)>을 번역하여 소개합니다. 네스타는 현재 상업적, 군사적 분야에서 놀라운 속도로 발달하고 있는 인공지능 기술을 우리 사회가 직면한 보다 근본적인 문제 해결, 예를 들면 사회적 돌봄을 위한 자원을 조정하거나 사회경제적 불평등을 줄이는 데 사용할 수 있도록 관련 연구를 지원하고 있습니다. 네스타는 이러한 공익 AI를 성취하기 위해 1) 보다 강력한 근거기반 구축 2) 소셜 임팩트 영역에 투자 3) 집단지성 활용 4) 다양한 사람들의 참여가 필요하다고 말합니다. 평소 공익활동과 기술의 결합에 관심이 있던 분이라면 재미있게 보실 수 있는 자료입니다.    


※ 원문: Nesta, “Alternative visions for the future of AI”, 2020년 6월 15일

https://www.nesta.org.uk/blog/alternative-visions-future-ai/



AI 미래의 대안적 비전

2019년 12월의 마지막 날, 캐나다 인공지능(AI) 기업 블루닷(Blue Dot)은 코로나19의 위협이 부상하고 있다고 가장 먼저 경고했다. 이는 널리 퍼져 있고 구조화되지 않은 방대한 빅데이터 속에서 시그널 감지를 돕고 있는 AI 시스템의 전체 호스트 중 하나이다.


질병의 창궐에 있어서 타이밍은 매우 중요하지만 그것이 전부는 아니다. 이후 몇 주 몇 달 동안, 이 같은 초기 경고는 정책 전문가, 전염병 전문가 그리고 의료 종사자들과 시민들에 의해 해석될 필요가 있다. 분산된 인간의 지능과 AI에 의해 드러난 초기 시그널을 결합 해야만 우리는 비상사태 대응을 조정하고 계획할 수 있다. 



AI란 무엇인가?


AI는 외부에서 수신된 입력(inputs)을 근거로 주어진 상황에서 적절하게 행동할 수 있는 소프트웨어 시스템을 말한다. 


오늘날의 AI 시스템은 다양한 영역에서 중요한 돌파구를 마련했다. AI는 변화무쌍한 '범용 기술(General Purpose Technology)'로 빠르게 인식되고 있다. 다양한 AI 기술에 대한 자세한 내용은 우리의 용어사전을 참고하라. 


코로나19는 현재 인공지능(AI)의 부가가치와 한계를 모두 밝히도록 도왔다. 데이터 마이닝(data mining)과 머신 러닝(machine learning) 같은 기술들은 방대한 데이터를 전수조사하고 패턴을 발견하는 능력을 가지고 치료 방법과 백신 개발을 진전시키고, 시뮬레이션과 모델링은 질병의 확산에 정책 개입이 미치는 영향을 예측하는 것을 돕는다. AI를 둘러싼 모든 과대 광고에도 불구하고, 마법의 코로나19 솔루션을 제공하지 않았다. 위기 대응의 최전선에 있는 사람들은 상호연결된 인적 네트워크로, 경우에 따라 AI의 지원을 받기도 한다. 의료 서비스를 제공하는 병원 의료진, 생필품 전달을 통해 이웃들을 지원하는 커뮤니티 그룹, 병원 밖에 있는 사람들이 경험한 증상을 매핑하는 시민 과학자들은 몇 가지 사례에 불과하다. 


또한 우리는 코로나19로 야기된 인간들의 행동 변화를 이해하기 위해 애쓰는 사기 탐지와 추천 시스템을 가진 AI가 "뉴노멀(new normal)" 적응에 실패하는 것을 보았다. AI가 거의 모든 것의 교란 요인으로 인식되고 있음에도 불구하고, 가장 인기 있는 AI 방법은 빅데이터셋에 대한 의존성과 해석 능력 부족으로 인해 한계가 있다. 사람들에게 정말로 중요한 대부분의 문제들은 너무 복잡해서 이러한 통제에 포함되지 않는다. 


이 모든 것은 우리가 AI를 가장 큰 소셜 임팩트를 만들고 혜택을 광범위하게 나눌 수 있는 문제, 소위 공익 AI(public interest AI)로 나아가는 것을 방해한다. AI가 어떻게 움직이고 관리되는가에 대한 지금 우리의 선택은 미래세대의 삶을 형성할 것이다. 따라서 우리가 고장난 시스템을 내부에서 조금씩 고치는 것을 피하기 위해서는 다양한 수준의 행동이 필요하다. 


네스타(Nesta)는 AI로 가능한 미래를 준비하기 위해 많은 상상력과 실험을 공모하고 있다. 우리는 우리의 비전을 지지하는 사람들과 연대를 구축하기를 원한다.


다음 네 가지 행동은 공익 AI의 성취에 필수적이며, 우리의 일은 이것을 실행하는 것이다. 



1. AI의 현재 상태에 대해 보다 강력한 증거 기반을 구축한다. 


AI 연구와 적용이 무서운 속도로 끊임없이 변화하고 있기 때문에, 누가 무엇을 하고 있고 어떤 영향을 미칠 수 있는지 우리의 이해는 불완전하다. 또한 가장 큰 기회와 가장 큰 위험이 어디에 있는지 명확히 모른다. 이 분야가 어디로 향하는지, 그리고 우리가 이 궤적을 어떻게 사회에 이로운 방식으로 조종할 수 있는지를 이해하려면, 편견과 불평등을 하드 코딩(hard-coding / 역주: 데이터를 쉽게 변경할 수 없게 기록함)하는 것을 피해야 하는데, 인공지능에 대한 더 나은 지능이 필요하다.


네스타는 데이터 마이닝, 네트워크 과학, 머신 러닝을 활용해 AI 개발과 활용 궤적을 추적한다. 이러한 트렌드를 실시간으로 매핑하면 AI의 긍정적인 영향과 부정적인 영향을 더욱 잘 이해할 수 있다. AI에 대한 더 나은 지능과 관련된 연구 중 하나인 우리의 보고서는 코로나19에 AI 연구를 어떻게 적용했는지 살펴본다. 우리의 분석은 코로나19 대응에서 AI의 활용도가 낮다는 것을 보여준다. 그것이 활용되는 경우, 연구자들은 다른 학문을 충분히 연계하지 않아서 그들의 기술이 구현될 수 있는 복잡한 사회적 맥락을 무시하는 것 같은 위험을 증가시킨다. 


보다 강력한 증거 기반을 구축하기 위한 또 다른 작업으로 최근 중국 공공서비스 분야에서의 AI 활용에 관한 논문이 있다. 이는 AI 트렌드를 이해하고자 할 때, 글로벌한 전망을 적용하는 것이 중요하다는 점을 강조한다. 이와 유사하게 차세대 인터넷에 대한 우리의 연구는 인터넷과 AI의 미래를 만들고 있는 경쟁적인 세력을 탐구한다.


AI가 일상생활의 일부가 되면서 앞으로 우리가 어떻게 일하고 배우는지에 점점 더 많이 영향을 미칠 것이다. 우리가 이러한 변화를 이해하기 위해 살펴본 것 중에 영국 학교와 대학에서 AI의 미래에 대한 연구가 있다. 반면 우리의 오픈 잡스 프로그램(Open Jobs programme)은 일자리 자동화가 미치는 진짜 영향과 기술의 미래를 이해하기 위해 새로운 접근법으로 노동시장 데이터를 분석한다. 



2. 가장 큰 소셜 임팩트를 만들 수 있는 곳으로 자원을 배분한다.  


AI는 기술 연구개발에 가장 많은 자금이 쏠리는 영역 중 하나이다. 하지만 시장은 상업적, 군사적 활용에 지배되고 있고, 수십억 달러의 투자에도 불구하고, 우리의 가장 큰 사회 난제를 해결하기 위한 AI 기반 솔루션에 대한 지원은 거의 없다. 예를 들어 일자리 자동화는 수백만 명의 삶에 부정적인 영향을 미칠 수 있음에도 불구하고, 극소수의 AI 연구들만 자동화 섹터에 초점을 맞추고 있다. 대부분의 코로나19 관련 AI 연구는 판데믹을 해결하기 위해 가장 큰 임팩트를 달성하기 위해 AI를 어떻게 활용할 것인지 더욱 전략적으로 생각하기보다 기존 애플리케이션을 미세하게 조정하는 데 초점을 맞추고 있다.


우리는 펀더로서 모범을 보이고 이 영역을 선도하고자 한다. 최근 스코틀랜드의 공익을 위한 AI 펀드(AI for Good Fund), 사람들이 함께 사회 난제를 해결하기 위해 AI를 활용하는 방법에 대한 최첨단 실험을 지원하는 집단지성지원금(Collective Intelligence Grants) 같은 소셜 임팩트 기준을 가진 펀딩 프로그램을 시작했다. 또한 임팩트 투자를 통해 교육과 헬스케어의 AI 혁신도 지원했다. 



3. 사람들이 더욱 현명하게 생각하고 함께 행동할 수 있도록 AI를 활용한다.


AI에 대한 우리의 이해에 있어 가장 큰 차이점 중 하나는 그것이 우리의 집단적인 인간지능과 어떻게 연관되어 있는지에 관한 것이다. 대부분의 AI 애플리케이션은 잘게 쪼개진 업무를 “대체”하거나 업무를 할 때 개개인을 더욱 효율적으로 만들어 인간의 역량을 복제하는 데 초점을 맞춰왔다. 우리는 AI를 활용하여 사람들이 더욱 현명하게 생각하고 함께 행동할 수 있을지, 또는 복잡한 문제를 해결하기 위해 인간과 기계 지능을 가장 잘 결합시킬 수 있는지 초점을 덜 맞춰왔다. 이전보다 더 많은 사람들을 하나로 연결하는 디지털 기술의 진보에도 불구하고, 우리는 집단적인 노력을 최대한 활용하기는 여전히 어렵다. 그러나 AI가 도움을 줄 수 있다.


예를 들어 AI는 팀 내에서 업무, 기술, 정보를 분산시키는 방법을 효율화하거나 의사결정시 멘탈 모델(mental models)을 개발하기 위해 세계의 복잡성을 시뮬레이션하는 데 활용할 수 있다. 이를 위해서는 AI의 가치에 대해 생각하는 방식이나 재원 조달의 우선순위를 정하는 방식에서 훨씬 더 많은 상상력이 필요하다. 


우리는 집단지성디자인센터(Centre for Collective Intelligence Design)를 통해 이러한 아이디어들을 실험하고 AI에 대한 대안적인 미래 비전을 탐구하기 위한 공동체를 구축하고 있다. 우리의 연구 ‘Future of Minds and Machines(마음과 기계의 미래)’는 인공지능이 집단지성을 어떻게 강화시킬 수 있는지, 참여적 방법이 AI 발전에 다양성과 집단적 가치의 원칙을 어떻게 소개할 수 있는지 살펴본다. 이러한 20가지 사례는 우리가 이 관계를 올바르게 만들 수 있는 기회를 살짝 보여준다.



4. AI를 만드는 데 다양한 사람들과 목소리를 참여시킨다. 


AI는 우리 사회에 존재하는 부정의(injustices)를 반영할 수 있다. AI 알고리즘을 움직이는 데이터는 편견과 구시대적 관행을 강화할 수 있다. 따라서 특정한 AI 애플리케이션 활용으로 구조적 불평등 문제에 직면하고 우리 사회가 갖고 있는 가치들을 점검할 수밖에 없었다. 최근 안면 인식을 둘러싼 논쟁에서 보여진 것처럼 집단적인 행동은 대기업과 개발자들이 AI 활용에 대해 어떻게 생각하는지에 영향을 미칠 수 있다. 


보다 공정하고 보다 대표성 있는 AI를 만들기 위해, 우리는 힘을 재분배하고 AI의 미래와 그것이 우리의 삶의 방식에 어떤 영향을 미치는지 논의에 다양한 사람들과 목소리가 참여할 수 있도록 더욱 많은 기회들을 주어야 한다. 이 문제는 AI에서 젠더 다양성이 부족하다는 우리의 연구에서도 드러난다. 이는 AI 연구의 14% 미만이 여성에 의해 수행되고 있음을 발견했다. 


우리가 더 큰 대표성을 얻을 수 있는 방법 중 하나는 참여적 미래(Participatory Futures)이다. 이는 미래를 위한 서비스와 제품을 개발하는 사람들이 그 과정에서 어떻게 더 포용적이고 다양해질 것인지 생각할 수 있는 도구와 방법이다. 우리의 또 다른 방법은 Longitude Explorer Prize이다. 이는 11-16세 청소년 대상으로 다른 사람들의 삶을 개선하는 AI 솔루션 아이디어를 공모하여 청소년들이 AI 시스템을 만들고 실험할 수 있도록 장려하는 것을 목표한다.  


AI가 야기한 속도와 혼란을 해결하기 위해서는 정책과 규제에 대한 새로운 접근이 필요하다. 우리는 예를 들어 법적 접근성 문제(Legal Access Challenge)를 통해 규제에 대한 보다 예측적이고 포괄적인 접근방식을 촉진하기 위해 규제기관 및 정부와 적극적으로 협력하고 있다.



더 나은 AI 미래를 위한 발판 마련


글로벌 보건 위기는 현재 우리 시스템의 한계를 시험했고 비상사태 동안 준비, 혁신, 의사결정을 위한 집단행동의 중요성을 강조했다.


지금은 현재 AI 궤적이 우리를 가두어 놓고 있는 미래를 잠시 멈추고 재고하고, 대안적 비전을 향해 나아가야 할 때다. 이렇게 함으로써, 우리는 다음 글로벌 비상사태가 건강, 경제, 기후위기 무엇이든 간에 다룰 수 있는 더 나은 위치에 설 것이다. 이를 위해서는 강력한 근거 기반을 구축하는 동시에 AI를 어떻게 하면 우리가 더욱 현명하게 생각하고 함께 행동할 수 있도록 돕고, 기회와 혜택을 사회 전체에 확산시킬 수 있는지 실험해야 할 것이다. 이는 건강한 상상력을 필요로 한다. 우리는 AI 미래에 대한 다른 이야기를 시작할 필요가 있다.


이 중 상당수는 미지의 영역이며 명확한 답은 없다. 우리는 새로운 데이터 과학 방법을 시도하거나 새로운 방식으로 AI(인공지능)와 CI(집단지성)를 결합시키는 지원금을 펀딩하는 실험을 하고 있다. 우리는 그 과정에서 약간의 실패를 겪을 것이다. 이 작업의 야망과 범위, 여러 분야에 침투해있는 AI, 그리고 다양한 전문지식은 이러한 비전을 달성하기 위해 우리와 함께 일할 연대가 필요하다는 것을 의미한다.


만약 우리의 AI 시스템이 사회적 돌봄을 위한 자원을 조정하거나 사회경제적 불평등을 줄이는 것과 같이 사람들에게 중요한 문제들을 감독하고 지시한다면, 우리는 더욱 빨리 적응하고 코로나19의 영향을 완화할 수 있었을 것이다.






작성자 : 그림, 작성일 : 2020.11.10, 조회수 : 102

코멘트를 달아주세요!



 목록으로