[전문] 앤트로픽 CEO의 미래 예측... “AI가 바꿀 5대 분야는 이것”

다리오 아모데이 엔트로픽 CEO가 11일(현지시각) 개인 블로그를 통해 AI의 미래에 관한 자신의 견해 및 예측을 상세히 공유했다.

앤트로픽은 오픈AI의 라이벌로 불리는 AI 스타트업이다. 아모데이 CEO 등 오픈AI 출신 직원 7명 2021년 설립했다. 아모데이 CEO는 오픈AI에서 GPT-3까지 개발을 직접 담당했고, GPT의 성능을 놀랍게 향상시킨 인간 피드백형 강화학습(Reinforcement Learning from Human Feedback, RLHF)을 발명한 것으로도 유명하다.  

앤트로픽은 또 일종의 가드레일을 설정해 생성 AI 생성의 오작동을 줄이는 ‘컨스티튜셔널 AI(Constitutional AI)’을 개발, 일찌감치 오픈AI와 경쟁 구도를 형성했다. 아마존으로부터 40억달러, 구글로부터 20억달러를 투자를 받기도 했다. 다리오 아모데이 CEO가 예측한 ‘강력한 AI(powerful AI)’가 실현된 미래는 어떤 모습일까?

다음은 블로그 전문

저는 강력한 인공지능의 위험성에 대해 많이 생각하고 이야기합니다. 제가 CEO로 있는 회사인 앤트로픽은 이러한 위험을 줄이는 방법에 대해 많은 연구를 하고 있습니다. 이 때문에 사람들은 제가 AI가 대부분 나쁘거나 위험할 것이라고 생각하는 비관론자 또는 ‘두머(Doomer, 부정론자)’라는 결론을 내리는 경우가 있습니다. 

저는 전혀 그렇게 생각하지 않습니다. 사실 제가 리스크에 집중하는 주된 이유 중 하나는 리스크가 근본적으로 긍정적인 미래를 가로막는 유일한 요소이기 때문입니다. 대부분의 사람들이 AI의 긍정적인 측면이 얼마나 급진적인지 과소평가하고 있다고 생각하듯이, 저는 대부분의 사람들이 위험성이 얼마나 나쁜지 과소평가하고 있다고 생각합니다.

이 글에서 저는 그 긍정적인 측면, 즉 모든 것이 올바르게 진행될 경우 강력한 AI를 갖춘 세상이 어떤 모습일지 스케치해 보려고 합니다. 물론 미래를 확실하고 정확하게 알 수 있는 사람은 아무도 없으며, 강력한 AI의 영향은 과거의 기술 변화보다 훨씬 더 예측하기 어려울 것이므로 이 모든 것은 불가피하게 추측으로 이루어질 수밖에 없습니다. 

하지만 저는 최소한 교육적이고 유용한 추측을 목표로 하고 있으며, 대부분의 세부 사항이 틀릴지라도 앞으로 일어날 일의 윤곽은 파악할 수 있다고 믿습니다. 모호하고 추상적인 비전보다 구체적인 비전이 토론을 진전시키는 데 더 도움이 된다고 생각하기 때문에 여러 세부 사항을 포함했습니다.

하지만 먼저, 저와 앤트로픽이 강력한 인공지능의 장점에 대해 그다지 많이 이야기하지 않은 이유와 전반적으로 위험에 대해 계속 이야기해야 하는 이유를 간략하게 설명하고 싶습니다. 제가 이런 선택을 한 이유는 다음과 같습니다:

• 활용도 극대화. AI 기술의 기본적인 발전과 그 혜택의 많은 부분(전부는 아니지만)은 (위험으로 인해 모든 것이 무산되지 않는 한) 피할 수 없는 것처럼 보이며, 근본적으로 강력한 시장의 힘에 의해 주도되고 있습니다. 반면에 위험은 미리 결정된 것이 아니며 우리의 행동에 따라 그 가능성이 크게 달라질 수 있습니다.

• 선전이라는 인식 피하기. 인공지능 회사들이 인공지능의 놀라운 이점에 대해 이야기하는 것은 자칫 선동가처럼 보이거나 단점을 감추려고 하는 것처럼 보일 수 있습니다. 또한 원칙적으로 ‘책 이야기(talking your book, 자기 제품 이야기)'에 너무 많은 시간을 할애하는 것은 영혼에 좋지 않다고 생각합니다.
  

• 거만함 피하기. 저는 많은 AI 위험론자들이(AI 기업 리더들은 말할 것도 없고) 마치 인류를 구원으로 인도하는 예언자처럼 혼자서 인공지능 이후의 세상을 만드는 것이 그들의 사명인 것처럼 이야기하는 방식에 종종 기분이 상합니다. 저는 기업이 일방적으로 세상을 형성한다고 보는 것, 실용적인 기술 목표를 종교적인 관점에서 바라보는 것은 위험하다고 생각합니다.

• ‘공상과학’ 소재 피하기. 대부분의 사람들이 강력한 인공지능의 장점을 과소평가하고 있다고 생각하지만, 급진적인 인공지능의 미래에 대해 논의하는 소규모 커뮤니티에서는 종종 지나치게 '공상과학'(업로드된 정신, 우주 탐험 또는 일반적인 사이버 펑크 분위기 등)적 어조로 이야기하는 경우가 많습니다. 이로 인해 사람들이 주장을 덜 진지하게 받아들이고 일종의 비현실적인 느낌을 받게 된다고 생각합니다. 명확히 말하자면, 문제는 기술이 가능한지 또는 실현 가능성이 있는지 여부가 아니라(본 에세이에서는 이에 대해 자세히 설명합니다), 그 '분위기'에 어떤 종류의 미래가 바람직한지, 다양한 사회 문제가 어떻게 전개될지 등에 대한 '문화적 짐(cultural baggage, 문화에 따라오는 태도 선입견)', 근거 없는 가정이 암시적으로 내포돼 있다는 것입니다. 그 결과 대부분의 사람들에게는 불쾌감을 주면서 좁은 하위 문화에 대한 환상처럼 읽히게 되는 경우가 많습니다.

하지만 위의 모든 우려에도 불구하고, 저는 위의 함정을 피하기 위해 최선을 다하면서 강력한 AI를 갖춘 좋은 세상이 어떤 모습일지 논의하는 것이 정말 중요하다고 생각합니다. 사실 저는 불을 끄기 위한(fight fires, 과도한 위험 방지) 계획이 아니라 진정으로 영감을 주는 미래에 대한 비전을 갖는 것이 중요하다고 생각합니다. 

강력한 AI의 함의는 적대적이거나 위험하지만, 그 모든 것의 끝에는 우리가 싸우고 있는 무언가, 모두가 더 잘 살 수 있는 긍정적인 결과, 사람들이 다툼을 극복하고 앞으로의 도전에 맞서도록 결집시킬 무언가가 있어야 한다고 생각합니다. 두려움은 동기 부여의 한 종류이지만 그것만으로는 충분하지 않습니다. 희망도 필요합니다.

강력한 AI의 긍정적인 적용 분야는 로봇 공학, 제조, 에너지 등 매우 많지만, 저는 인간의 삶의 질을 직접적으로 향상시킬 수 있는 잠재력이 가장 큰 것으로 보이는 몇 가지 분야에 초점을 맞추고자 합니다. 제가 가장 기대하는 다섯 가지 분야는 다음과 같습니다:

1. 생물학 및 신체 건강(Biology and physical health)

2. 신경과학과 정신 건강(Neuroscience and mental health)

3. 경제 발전과 빈곤(Economic development and poverty)

4. 평화와 거버넌스(Peace and governance)

5. 일과 의미(Work and meaning)

공상 과학의 "특이점" 비전을 제외한 대부분의 기준에서 볼 때 저의 예측은 급진적일 수 있지만, 진지하고 진심어린 의미로 말씀드리는 것입니다. 제가 말하는 모든 것은 (위에서 언급한 내용을 반복하자면) 매우 쉽게 틀릴 수 있지만, 적어도 다양한 분야의 발전 속도가 얼마나 빨라질 수 있는지, 그리고 그것이 실제로 무엇을 의미하는지 반분석적인 평가를 통해 제 견해를 근거로 삼으려고 노력했습니다. 

저는 운 좋게도 생물학과 신경과학 분야에서 전문적인 경험을 쌓았고, 경제 개발 분야에서는 정보에 입각한 아마추어이지만 틀린 부분이 많을 것이라고 확신합니다. 이 글을 쓰면서 깨달은 한 가지는 생물학, 경제학, 국제 관계 및 기타 분야의 전문가 그룹을 모아 제가 여기서 작성한 내용을 훨씬 더 나은 정보에 입각한 버전으로 작성하는 것이 가치가 있을 것이라는 점입니다. 저의 노력은 그 그룹의 시작이라고 보는 것이 가장 좋을 것입니다.

기본 가정과 프레임워크

이 글 전체를 보다 정확하고 근거 있게 작성하려면 강력한 AI의 의미(즉, 5~10년 시계가 카운트되기 시작하는 임계값)를 명확하게 지정하고 그러한 AI가 존재할 경우의 영향에 대해 생각할 수 있는 틀을 마련할 필요가 있습니다.

강력한 인공지능(저는 AGI라는 용어가 싫습니다)이 어떤 모습일지, 언제 등장할지는 그 자체로 큰 주제입니다. 이 주제는 제가 공개적으로 논의한 적이 있고 완전히 별도의 에세이를 쓸 수도 있는 주제입니다(아마 언젠가는 쓸 것입니다). 물론 많은 사람들이 강력한 AI가 곧 구축될 것이라는 데 회의적인 시각을 가지고 있고, 어떤 사람들은 아예 구축될 수 없을 것이라고 회의적인 시각을 가지고 있습니다. 

저는 빠르면 2026년에나 가능할 것이라고 생각하지만 훨씬 더 오래 걸릴 수도 있다고 생각합니다. 하지만 이 글의 목적상 이러한 문제는 제쳐두고 조만간 도입될 것이라고 가정하고 그 이후 5~10년 동안 어떤 일이 일어날지에 초점을 맞추고자 합니다. 또한 이러한 시스템이 어떤 모습일지, 그 기능은 무엇이며 어떻게 상호 작용할지에 대한 정의에 대해 이견의 여지가 있더라도 가정해 보고자 합니다.

강력한 AI란 오늘날의 LLM과 형태는 비슷하지만 다른 아키텍처를 기반으로 하고 여러 상호 작용 모델을 포함하며 다음과 같은 속성을 가진 AI 모델이 될 것입니다:

• 순수 지능 측면에서 보면 생물학, 프로그래밍, 수학, 공학, 작문 등 대부분의 관련 분야에서 노벨상 수상자보다 더 똑똑합니다. 즉, 풀리지 않는 수학 정리를 증명하고, 매우 훌륭한 소설을 쓰고, 어려운 코드베이스를 처음부터 다시 작성하는 등의 작업을 수행할 수 있습니다.

• 단순히 '대화하는 똑똑한 사물'일 뿐만 아니라 텍스트, 오디오, 비디오, 마우스 및 키보드 제어, 인터넷 액세스 등 사람이 가상으로 작업할 수 있는 모든 '인터페이스'를 갖추고 있습니다. 이 인터페이스를 통해 인터넷에서 작업하기, 사람에게 지시하거나 지시 받기, 재료 주문, 실험 지시, 비디오 시청, 비디오 제작 등 모든 작업, 통신 또는 원격 작업을 수행할 수 있습니다. 이 모든 작업을 세계에서 가장 유능한 인간을 능가하는 기술로 수행합니다.

• 단순히 수동적으로 질문에 답하는 것이 아니라 몇 시간, 며칠 또는 몇 주가 걸리는 작업을 부여한 다음 스마트한 직원처럼 자율적으로 해당 작업을 수행하고 필요에 따라 설명을 요청할 수 있습니다.

• 컴퓨터 화면에 존재하는 것 외에는 물리적 구현이 없지만 컴퓨터를 통해 기존의 물리적 도구, 로봇 또는 실험실 장비를 제어할 수 있으며 이론적으로는 스스로 사용할 로봇이나 장비를 설계할 수도 있습니다.

• 모델 학습에 사용되는 리소스는 수백만 개의 인스턴스를 실행하는 데 재사용할 수 있으며(이는 ~2027년까지 예상되는 클러스터 규모와 일치), 모델은 정보를 흡수하고 인간의 약 10배에서 100배의 속도로 동작을 생성할 수 있습니다. 그러나 물리적 세계 또는 상호작용하는 소프트웨어의 응답 시간에 의해 제한될 수 있습니다.

• 이 백만 개의 복사본(Each of these million copies)은 각각 관련 없는 작업에서 독립적으로 작동할 수도 있고, 필요한 경우 특정 작업에 특히 능숙하도록 미세 조정된 여러 하위 집단을 통해 인간이 협업하는 것과 같은 방식으로 모두 함께 작업할 수도 있습니다.

이를 "데이터센터에 천재들이 모여 있는 나라(country of geniuses in a datacenter)"라고 요약할 수 있습니다.

이는 분명히 매우 어려운 문제를 매우 빠르게 해결할 수 있을 것이지만, 그 속도를 파악하는 것은 사소한 일이 아닙니다. 두 가지 '극단적인' 입장은 모두 거짓으로 보입니다. 첫째, 뛰어난 지능이 스스로 구축돼 가능한 모든 과학, 공학 및 운영 작업을 거의 즉시 해결하므로 세상이 몇 초 또는 며칠 단위로 순식간에 변화("싱귤래리티")할 것이라고 생각할 수 있습니다. 

문제는 하드웨어를 구축하거나 생물학적 실험을 수행하는 등 물리적, 현실적인 한계가 있다는 것입니다. 새로운 천재들의 나라라도 이러한 한계에 부딪히게 될 것입니다. 지능은 매우 강력할 수 있지만 마법의 요정 가루는 아닙니다.

둘째, 반대로 실제 데이터나 사회적 요인에 의해 기술 발전이 포화 상태이거나 속도가 제한돼 있으며, 인간보다 더 나은 지능은 거의 추가되지 않을 것이라고 믿을 수도 있습니다. 정말 똑똑한 사람들로 구성된 대규모 집단이 분석에만 국한되지 않고 현실 세계에서 일을 실현할 수 있다면(우리가 가정한 천재들의 나라에서 인간 팀을 지휘하거나 지원하는 등) 과학적 또는 사회적 문제를 획기적으로 발전시킬 수 있는 수백 가지의 문제를 생각할 수 있습니다.

진실은 업무와 분야에 따라 다르며 세부적인 부분에서는 매우 미묘한 이 두 가지 극단적인 그림이 뒤섞인 지저분한 혼합물일 가능성이 높다고 생각합니다. 저는 이러한 세부 사항을 생산적인 방식으로 생각하기 위해서는 새로운 프레임워크가 필요하다고 생각합니다.

경제학자들은 종종 노동, 토지, 자본과 같은 '생산 요소'에 대해 이야기합니다. "노동/토지/자본에 대한 한계수익률"이라는 표현은 주어진 상황에서 특정 요소가 제한적일 수도 있고 아닐 수도 있다는 생각을 담고 있습니다. 예를 들어 공군에는 비행기와 조종사가 모두 필요한데 비행기가 부족하다면 조종사를 더 고용해도 큰 도움이 되지 않는다는 뜻입니다. 저는 인공지능 시대에는 지능에 대한 한계 수익률에 대해 이야기하고, 지능을 보완하는 다른 요소들이 무엇인지, 지능이 매우 높을 때 제한 요소가 되는 요소들이 무엇인지 파악하려고 노력해야 한다고 믿습니다. 우리는 "더 똑똑해지는 것이 이 작업에 얼마나 도움이 되는지, 어느 정도의 시간적 범위에서?"라는 식으로 생각하는 데 익숙하지 않지만, 이것은 매우 강력한 AI가 있는 세상을 개념화하는 올바른 방법인 것 같습니다.

지능을 제한하거나 보완하는 요소의 목록에는 다음이 포함됩니다:

• 외부 세계의 속도. 지능형 에이전트는 일을 완수하고 학습하기 위해 세상에서 대화형으로 작동해야 합니다. 하지만 세상은 너무 빠르게 움직입니다. 세포와 동물은 고정된 속도로 움직이기 때문에 이들에 대한 실험에는 일정 시간이 걸리며, 이 시간을 단축할 수 없습니다. 하드웨어, 재료 과학, 사람과의 소통과 관련된 모든 것, 심지어 기존의 소프트웨어 인프라도 마찬가지입니다. 게다가 과학 분야에서는 여러 실험을 순차적으로 진행해야 하는 경우가 많으며, 각 실험은 이전 실험에서 배우거나 이를 기반으로 합니다. 이 모든 것은 암 치료제 개발과 같은 주요 프로젝트를 완료할 수 있는 속도가 지능이 계속 증가하더라도 더 이상 줄일 수 없는 최소값을 가질 수 있다는 것을 의미합니다.

• 데이터의 필요성. 때때로 원시 데이터가 부족할 때는 더 많은 지능이 도움이 되지 않습니다. 오늘날의 입자 물리학자들은 매우 독창적이고 다양한 이론을 개발했지만, 입자 가속기 데이터가 매우 제한적이기 때문에 그 중에서 선택할 수 있는 데이터가 부족합니다. 더 큰 가속기의 건설 속도를 높이는 것 외에는 그들이 초지능적이라고 해서 획기적으로 더 나은 성과를 낼 수 있을지는 확실하지 않습니다.

• 내재적 복잡성. 어떤 것들은 본질적으로 예측할 수 없거나 혼란스러워서 아무리 강력한 AI라도 오늘날의 인간이나 컴퓨터보다 훨씬 더 잘 예측하거나 풀 수 없습니다. 예를 들어, 아무리 강력한 인공지능이라 할지라도 일반적인 경우(예: 삼체 문제와 같은 혼란스러운 시스템에서는 오늘날의 인간이나 컴퓨터와 비교할 때 약간만 더 앞서 예측할 수 있을 뿐입니다.

• 인간으로부터의 제약. 법을 어기거나, 인간에게 해를 끼치거나, 사회를 어지럽히지 않고는 할 수 없는 일이 많습니다. 정렬된 인공지능은 이러한 일을 하고 싶어하지 않을 것입니다(정렬되지 않은 인공지능이 있다면 다시 위험에 대해 이야기해야겠죠). 많은 인간 사회 구조는 비효율적이거나 심지어 해롭지만, 임상시험에 대한 법적 요건, 사람들의 습관을 바꾸려는 의지, 정부의 행동과 같은 제약을 지켜가며 이를 바꾸는 일은 쉽지 않습니다. 기술적으로는 잘 작동하지만, 규제나 잘못된 두려움으로 인해 그 영향이 크게 줄어든 발전의 예로는 원자력, 초음속 비행, 엘리베이터 등이 있습니다.

• 물리 법칙. 이것은 첫 번째 요점의 더 극명한 버전입니다. 깨지지 않는 것처럼 보이는 물리 법칙이 있습니다. 빛보다 빠르게 이동하는 것은 불가능합니다. 푸딩은 휘저어 지지 않습니다. 칩은 평방 센티미터당 트랜지스터 수가 불안정해지기 전까지만 사용할 수 있습니다. 계산을 하려면 비트당 최소 에너지가 일정하게 지워져야 하므로 계산 밀도가 제한됩니다.

시간 척도에 따라 또 다른 구분이 있습니다. 단기적으로는 어려운 제약 조건이 장기적으로는 지능에 더 유연하게 작용할 수 있습니다. 예를 들어, 살아있는 동물 실험이 필요했던 것을 체외에서 학습할 수 있는 새로운 실험 패러다임을 개발하거나, 새로운 데이터를 수집하는 데 필요한 도구(예. 더 큰 입자가속기), 또는 (윤리적 한계 내에서) 인간에 기반한 제약을 극복할 방법을 찾거나(예: 임상시험 시스템을 개선하거나 임상시험에 관료주의가 덜한 새로운 관할권을 만드는 데 도움을 주거나 과학 자체를 개선하여 인간 임상시험이 덜 필요하거나 더 저렴하게 만드는 것), 또는 인간에 기반한 제약을 극복하는 데 도움을 줄 수 있습니다.

따라서 우리는 처음에는 지능이 다른 생산 요소에 의해 크게 병목현상을 일으키지만, 시간이 지나면서 지능 자체가 다른 요소들을 점점 더 우회하는 그림을 상상해야 합니다(물리 법칙과 같은 일부 요소는 절대적이지만). 중요한 질문은 ‘이 모든 일이 얼마나 빨리 그리고 어떤 순서로 일어나는가’입니다.

위의 프레임워크를 염두에 두고 소개에서 언급한 다섯 가지 영역에 대해 이 질문에 답해 보겠습니다.

1. 생물학과 건강

생물학은 아마도 과학적 진보가 인간의 삶의 질을 직접적이고 분명하게 개선할 수 있는 가장 큰 잠재력을 가진 분야일 것입니다. 지난 세기 동안 천연두와 같은 가장 오래된 인류의 고통 중 일부는 마침내 정복되었지만 아직도 많은 질병이 남아 있으며, 이를 퇴치하는 것은 엄청난 인도주의적 성과가 될 것입니다. 생물과학은 질병을 치료하는 것 외에도 인간의 수명을 연장하고, 우리 자신의 생물학적 과정에 대한 통제력과 자유를 높이며, 현재 인간 조건의 불변의 일부라고 생각하는 일상적인 문제를 해결함으로써 원칙적으로 인간 건강의 기본 수준을 향상시킬 수 있습니다.

이전 섹션의 '제한 요인'에서 지능을 생물학에 직접 적용하는 데 있어 가장 큰 어려움은 데이터, 물리적 세계의 속도, 내재적 복잡성입니다(사실 이 세 가지 모두 서로 관련이 있습니다). 인간의 제약은 임상시험이 진행되는 후기 단계에서도 중요한 역할을 합니다. 하나씩 살펴봅시다.

세포, 동물, 심지어 화학 공정에 대한 실험은 물리적 세계의 속도에 의해 제한됩니다. 많은 생물학적 프로토콜에는 박테리아나 다른 세포를 배양하거나 단순히 화학 반응이 일어나기를 기다리는 것이 포함되며, 이 과정에서 속도를 높일 수 있는 확실한 방법이 없어 며칠 또는 몇 주가 걸릴 수 있습니다. 동물 실험은 수개월(또는 그 이상)이 걸릴 수 있으며, 인간 실험은 수년(또는 장기 결과 연구의 경우 수십 년)이 걸리는 경우가 많습니다. 

이와 관련해서 데이터는 양적인 측면이 아니라 질적인 측면에서 부족한 경우가 많습니다. 즉, 관심 있는 생물학적 효과를 다른 1만 가지의 혼란스러운 현상으로부터 분리하거나 특정 과정에 인과적으로 개입하거나 어떤 효과를 직접 측정하는(간접적이거나 잡음이 많은 방식으로 결과를 추론하는 것과는 대조적으로) 명확하고 모호하지 않은 데이터가 항상 부족하다는 뜻이죠. 질량 분석 기술을 연구하면서 수집한 프로테오믹스 데이터와 같은 방대한 정량적 분자 데이터조차도 노이즈가 많고 놓치는 부분이 많습니다(이 단백질이 어떤 종류의 세포에 있었나요? 세포의 어느 부분에? 세포 주기의 어느 단계에 있나요?).

인간 대사의 생화학을 보여주는 다이어그램을 본 적이 있다면, 이 복잡한 시스템의 어떤 부분의 영향을 분리하는 것이 매우 어렵고, 정확하거나 예측 가능한 방식으로 시스템에 개입하는 것이 훨씬 더 어렵다는 것을 알 것입니다. 마지막으로, 인간을 대상으로 실험을 진행하는 데 걸리는 본질적인 시간 외에도 실제 임상시험에는 (저를 포함한 많은 사람들의 의견에 따르면) 불필요한 추가 시간을 추가하고 진행을 지연시키는 많은 관료주의와 규제 요건이 수반됩니다.

이 모든 점을 고려할 때, 많은 생물학자들은 오랫동안 생물학에서 AI와 '빅 데이터'의 가치에 대해 회의적인 입장을 견지해 왔습니다. 역사적으로 지난 30년 동안 수학자, 컴퓨터 과학자, 물리학자들이 자신의 기술을 생물학에 적용하여 상당한 성공을 거두었지만, 처음에 기대했던 만큼의 진정한 변화를 가져오지는 못했기 때문입니다. 알파폴드(개발자에게 노벨 화학상이 수여된 바 있음) 및 알파프로테오 같은 주요하고 혁신적인 돌파구를 통해 일부 회의론은 감소되었습니다, 하지만 여전히 AI는 제한된 상황에서만 유용하다는 인식이 존재하며 앞으로도 계속될 것입니다. 일반적인 공식은 "AI는 데이터를 더 잘 분석할 수는 있지만 더 많은 데이터를 생성하거나 데이터의 품질을 개선할 수는 없다. 쓰레기가 들어오고 쓰레기가 나간다"는 식입니다.

하지만 저는 비관적인 관점은 AI를 잘못된 방식으로 생각하는 것이라고 생각합니다. AI 발전에 대한 우리의 핵심 가설이 맞다면, AI를 데이터 분석의 한 방법이 아니라, 가상의 생물학자가 현실 세계에서 실험을 설계하고 실행하며(연구실 로봇을 제어하거나 대학원생에게 실험을 지시하는 것처럼), 새로운 생물학적 방법이나 측정 기술을 발명하는 등 생물학자가 하는 모든 작업을 수행하는 가상의 생물학자로 생각하는 것이 옳다고 생각합니다. AI가 생물학을 진정으로 가속화할 수 있는 것은 전체 연구 과정의 속도를 높이는 것입니다. 생물학을 혁신하는 AI의 능력에 대해 이야기할 때 가장 흔하게 발생하는 오해이기 때문에 이 점을 다시 한 번 말씀드리고 싶습니다: 저는 AI를 단순히 데이터를 분석하는 도구로만 이야기하는 것이 아닙니다. 이 글의 서두에 설명한 강력한 AI의 정의에 따라, 저는 AI를 사용하여 생물학자가 하는 거의 모든 작업을 수행하고, 지시하고, 개선하는 것에 대해 이야기하고 있습니다.

제가 생각하는 가속화의 원인을 좀 더 구체적으로 설명하자면, 생물학 발전의 놀랍도록 큰 부분은 생물학적 시스템에 정밀하지만 일반화되거나 프로그래밍 가능한 개입을 가능하게 하는 광범위한 측정 도구 또는 기술과 관련된 아주 작은 수의 발견에서 비롯되었습니다. 이러한 주요 발견은 매년 약 1건씩 이루어지며, 이를 모두 합치면 생물학 발전의 50%를 주도하고 있습니다. 이러한 발견은 본질적인 복잡성과 데이터 한계를 극복하여 생물학적 과정에 대한 우리의 이해와 통제력을 직접적으로 향상시키기 때문에 매우 강력합니다. 10년에 몇 가지 발견은 생물학에 대한 기초 과학적 이해의 대부분을 가능하게 했고, 가장 강력한 의학적 치료법 중 상당수를 이끌어냈습니다.

몇 가지 예는 다음과 같습니다:

• CRISPR: 살아있는 유기체의 모든 유전자를 실시간으로 편집할 수 있는 기술(임의의 유전자 서열을 다른 임의의 서열로 대체)입니다. 최초의 기술이 개발된 이후 특정 세포 유형을 표적으로 삼고, 정확도를 높이고, 잘못된 유전자의 편집을 줄이는 등 인간에게 안전하게 사용하기 위해 필요한 지속적인 개선이 이루어졌습니다.

• 첨단 광학 현미경(다양한 종류의 형광 기술, 특수 광학 장치 등), 전자 현미경, 원자력 현미경 등 다양한 종류의 현미경으로 정밀한 수준의 관찰을 위한 다양한 종류의 현미경이 있습니다.

• 게놈 시퀀싱과 합성은 지난 수십 년 동안 비용이 몇 배로 떨어졌습니다.

• 옵토제네틱 기술은 뉴런에 빛을 비춰서 뉴런이 발화하도록 하는 기술입니다.

• mRNA 백신은 원칙적으로 모든 것에 대한 백신을 설계한 다음 빠르게 적응시킬 수 있습니다(물론 mRNA 백신은 코로나 사태로 유명해졌습니다).

• 면역 세포를 체외로 꺼내어 원칙적으로 무엇이든 공격하도록 "재프로그램"할 수 있는 CAR-T와 같은 세포 치료법.

• 질병의 세균 이론이나 면역 체계와 암 사이의 연결고리 발견과 같은 개념적 통찰력.

제가 이 모든 기술을 나열하는 수고를 마다하지 않는 이유는 중요한 주장을 하고 싶기 때문입니다: <재능 있고 창의적인 연구자가 훨씬 더 많다면 이러한 발견의 속도를 10배 이상 높일 수 있다고 생각합니다. 또는 다시 말해, 이러한 발견의 수익률이 높으며 생물학 및 의학의 다른 모든 것은 대부분 이 발견에서 비롯된다고 생각합니다.

왜 이렇게 생각하나요? '지능으로의 복귀'를 결정하려고 할 때 습관적으로 물어봐야 할 몇 가지 질문에 대한 답이 있기 때문입니다. 첫째, 이러한 발견은 일반적으로 소수의 연구자, 종종 같은 사람들이 반복적으로 이루어지며, 무작위 검색이 아닌 기술을 암시합니다(후자는 실험이 오래 걸리는 것이 제한 요소임을 시사할 수 있습니다). 예를 들어, 크리스퍼는 박테리아에서 자연적으로 발생하는 면역 체계의 구성 요소로 80년대부터 알려졌지만, 사람들이 일반적인 유전자 편집에 사용될 수 있다는 사실을 깨닫기까지 25년이 더 걸렸습니다. 

또한 유망한 방향에 대한 과학계의 지원 부족으로 인해 수년이 지연되는 경우도 많습니다(mRNA 백신 발명가에 대한 이 프로필 참조, 비슷한 사례가 많이 있습니다). 셋째, 성공적인 프로젝트는 대규모 자금이 투입된 프로젝트가 아니라 처음에는 사람들이 유망하다고 생각하지 않았던 프로젝트인 경우가 많습니다. 이는 발견을 이끌어내는 것은 막대한 자원의 집중이 아니라 독창성이라는 것을 시사합니다.

마지막으로, 이러한 발견 중 일부는 '연쇄적 의존성'(A를 먼저 발견해야 B를 발견할 수 있는 도구나 지식을 얻을 수 있음)이 있어 실험이 지연될 수 있지만, 대부분의 발견은 독립적이어서 한 번에 여러 가지 작업을 동시에 진행할 수 있습니다. 이러한 사실과 생물학자로서의 일반적인 경험은 과학자들이 인류가 보유한 방대한 양의 생물학적 지식을 더 똑똑하고 더 잘 연결할 수 있다면 이러한 발견이 수백 가지나 이루어질 수 있음을 강력하게 시사합니다(다시 한 번 CRISPR의 예를 생각해 보세요). 수십 년에 걸쳐 신중하게 설계된 물리학 모델링에도 불구하고 인간보다 훨씬 더 효과적으로 중요한 문제를 해결한 알파폴드/알파프로테오의 성공은 (비록 좁은 영역에서 좁은 도구를 사용했지만) 앞으로 나아가야 할 길을 제시하는 원리 증명을 제시합니다.

따라서 강력한 AI가 이러한 발견의 속도를 적어도 10배 이상 높여서 5~10년 안에 50~100년의 생물학적 진보를 이룰 수 있다고 생각합니다. 왜 100배는 안 될까요? 아마도 가능할 수도 있지만, 여기서 연속성과 실험 시간이 모두 중요해집니다. 1년 만에 100배의 진전을 이루려면 동물 실험, 현미경이나 고가의 실험실 시설 설계 등 처음부터 제대로 진행해야 할 것이 많습니다. 저는 사실 5~10년 안에 1000년의 발전을 이룰 수 있다는 (어쩌면 터무니없게 들리는) 생각에는 열려 있지만, 1년 안에 100년을 이룰 수 있다는 생각에는 매우 회의적입니다. 다른 말로 표현하자면, 실험과 하드웨어 설계에는 일정한 '지연'이 있고 논리적으로 추론할 수 없는 것을 학습하기 위해 일정한 '감소 불가능한' 횟수를 반복해야 하기 때문에 피할 수 없는 지속적인 지연이 존재한다고 생각합니다. 하지만 그 위에 대규모 병렬 처리가 가능할 수도 있습니다.

임상시험은 어떨까요? 많은 관료주의와 느림이 관련되어 있지만, 사실 느림의 많은 부분(전부는 아니지만!)은 궁극적으로 거의 효과가 없거나 모호한 약물을 엄격하게 평가해야 할 필요성에서 비롯됩니다. 이는 슬프게도 오늘날 대부분의 치료법이 그러합니다. 평균적으로 암 치료제는 생존 기간을 몇 개월 늘리지만, 신중하게 측정해야 하는 심각한 부작용이 있습니다(알츠하이머 치료제의 경우도 비슷한 사례입니다). 따라서 (통계적 힘을 얻기 위해) 대규모 연구가 필요하고, 관료주의와 이해관계의 복잡성 때문에 규제 기관이 일반적으로 잘 하지 않는 어려운 트레이드오프가 이루어집니다.

효과가 정말 좋으면 승인 절차가 빨라지고 효과의 크기가 클수록 승인이 훨씬 더 쉬워집니다. COVID에 대한 mRNA 백신은 일반적인 속도보다 훨씬 빠른 9개월 만에 승인되었습니다. 하지만 이러한 조건에서도 임상시험은 여전히 너무 느리게 진행되고 있으며, 약 2개월 안에 승인되어야 할 백신입니다. 그러나 이러한 종류의 지연(약물의 경우 ~1년)과 대규모 병렬화 및 일부 반복("몇 번의 시도")의 필요성은 5~10년 내에 급진적인 혁신과 매우 잘 어울립니다. 더욱 낙관적인 전망으로는, AI 기반 생물과학이 인간에게 일어날 일을 더 정확하게 예측하는 더 나은 동물 및 세포 실험 모델(또는 시뮬레이션)을 개발함으로써 임상시험에서 반복의 필요성을 줄일 수 있을 것입니다. 이는 수십 년에 걸쳐 진행되며 더 빠른 반복이 필요한 노화 과정에 대한 약물 개발에 특히 중요할 것입니다.

마지막으로, 임상시험과 사회적 장벽에 대한 주제에서, 어떤 면에서 생물의학 혁신은 다른 기술과 달리 유독 강력하게 성공적으로 배포된 실적을 가지고 있다는 점을 명확히 지적할 필요가 있습니다. 서론에서 언급했듯이 많은 기술이 기술적으로 잘 작동함에도 불구하고 사회적 요인에 의해 방해를 받고 있습니다. 이는 AI가 달성할 수 있는 성과에 대해 비관적인 관점을 제시할 수 있습니다. 하지만 바이오 의약품은 개발 과정이 지나치게 번거롭지만 일단 개발되면 일반적으로 성공적으로 배포되고 사용된다는 점에서 독특합니다.

위의 내용을 요약하면, 저는 AI를 활용한 생물학과 의학이 향후 50~100년 동안 인간 생물학자들이 이룩할 수 있었던 진보를 5~10년 안에 압축할 수 있을 것이라는 기본적인 예측을 하고 있습니다. 저는 이를 '압축된 21세기'라고 부르는데, 강력한 AI가 개발되면 몇 년 안에 21세기 전체에 걸쳐 이뤄낸 생물학 및 의학 분야의 모든 진보를 이룰 수 있을 것이라는 생각입니다.

강력한 인공지능이 몇 년 안에 무엇을 할 수 있을지 예측하는 것은 본질적으로 어렵고 추측에 불과하지만, "향후 100년 동안 인간이 도움 없이 무엇을 할 수 있을까?"라는 질문에는 어느 정도 구체성이 있습니다. 20세기에 우리가 이룬 성과를 살펴보거나 21세기의 첫 20년간의 성과를 바탕으로 추론하거나 "10개의 크리스퍼와 50개의 CAR-T"가 우리에게 무엇을 가져다줄지 묻는 것만으로도 강력한 AI의 일반적인 발전 수준을 예측할 수 있는 실용적이고 근거 있는 방법을 제시할 수 있습니다.

아래에서는 우리가 예상할 수 있는 목록을 작성하려고 합니다. 이는 엄격한 방법론에 근거한 것은 아니며 세부적인 부분에서는 틀릴 가능성이 높지만, 우리가 기대할 수 있는 일반적인 수준의 급진주의를 전달하려고 노력했습니다:

• 거의 모든 자연 감염병의 확실한 예방과 치료. 20세기 전염병에 대한 엄청난 발전을 고려할 때, 압축된 21세기에 우리가 어느 정도 "일을 끝낼 수 있다"고 상상하는 것은 급진적이지 않습니다. mRNA 백신과 유사한 기술은 이미 "모든 것에 대한 백신"으로 나아가는 길을 가리키고 있습니다. 전염병이 일부 지역이 아닌 전 세계에서 완전히 박멸될 수 있을지는 섹션 3에서 논의되는 빈곤과 불평등에 대한 질문에 달려 있습니다.

• 대부분의 암 퇴치. 암으로 인한 사망률은 지난 수십 년 동안 매년 2%씩 감소하고 있으며, 현재 인류 과학의 발전 속도라면 21세기에는 대부분의 암을 퇴치할 수 있을 것으로 예상됩니다. 일부 아형은 이미 대부분 완치되었으며(예: 일부 유형의 백혈병은 CAR-T 요법으로 치료), 저는 초기 단계의 암을 표적으로 삼고 암이 더 이상 자라지 못하도록 예방하는 매우 선택적인 약물에 대해 더욱 기대가 큽니다. AI는 또한 암의 개별화된 게놈에 매우 세밀하게 조정된 치료 요법을 가능하게 할 것입니다. 현재도 가능하지만 시간과 인간의 전문 지식에 막대한 비용이 드는 이러한 치료 요법을 AI를 통해 확장할 수 있습니다. 사망률과 발병률을 모두 95% 이상 감소시킬 수 있을 것으로 보입니다. 하지만 암은 매우 다양하고 적응력이 뛰어나며, 이러한 질병 중 가장 완전히 퇴치하기 어려운 질병일 가능성이 높습니다. 희귀하고 치료가 어려운 악성 종양이 지속되는 것은 놀라운 일이 아닙니다.

• 유전 질환에 대한 매우 효과적인 예방과 효과적인 치료. 크게 개선된 배아 선별 검사로 대부분의 유전 질환을 예방할 수 있을 것이며, 더 안전하고 신뢰할 수 있는 CRISPR의 후손은 기존 사람들의 대부분의 유전 질환을 치료할 수 있을 것입니다. 그러나 세포의 많은 부분에 영향을 미치는 전신 질환은 최후의 보루가 될 수 있습니다.

• 알츠하이머 예방. 우리는 알츠하이머의 원인(베타 아밀로이드 단백질과 관련이 있다고는 하지만, 실제 세부 사항은 매우 복잡한 것 같습니다)을 파악하는 데 매우 어려움을 겪었습니다. 생물학적 영향을 분리하는 더 나은 측정 도구로 해결할 수 있는 유형의 문제인 것 같아서 저는 AI의 문제 해결 능력에 대해 낙관적으로 생각합니다. 실제로 무슨 일이 일어나고 있는지 이해하게 되면 비교적 간단한 개입으로 예방할 수 있는 가능성이 높습니다. 하지만 이미 진행된 알츠하이머로 인한 손상은 되돌리기가 매우 어려울 수 있습니다.

• 대부분의 다른 질병의 치료법 개선. 이는 당뇨병, 비만, 심장병, 자가면역질환 등을 포함한 기타 질병을 포괄하는 카테고리입니다. 이들 중 대부분은 암이나 알츠하이머병보다 해결이 '쉬워' 보이며, 많은 경우 이미 급격히 감소하고 있습니다. 예를 들어 심장병으로 인한 사망은 이미 50% 이상 감소했으며, GLP-1 작용제와 같은 간단한 개입으로 비만과 당뇨병은 이미 큰 진전을 이루었습니다.

• 생물학적 자유. 지난 70년 동안 피임, 생식력, 체중 관리 등의 분야에서 많은 발전이 있었습니다. 하지만 인공지능으로 가속화된 생물학은 체중, 외모, 생식 및 기타 생물학적 과정을 완전히 통제할 수 있는 가능성을 크게 확장할 것이라고 생각합니다. 모든 사람이 자신이 되고 싶은 것을 선택하고 자신에게 가장 잘 맞는 방식으로 삶을 살아갈 수 있어야 한다는 생각, 즉 '생물학적 자유'라는 제목 아래 이를 언급해 보겠습니다. 물론 전 세계적인 접근 평등에 대한 중요한 질문이 있을 수 있습니다. 이에 대해서는 섹션 3을 참조하세요.

• 인간 수명이 두 배로 증가. 급진적으로 보일 수 있지만 20세기에는 기대 수명이 거의 2배(~40년에서 ~75세)로 증가했으므로 "압축 21세기"에는 다시 150세로 2배가 될 것이라는 것은 "추세"에 따른 결과입니다. 물론 실제 노화 과정을 늦추는 데 필요한 개입은 지난 세기에 질병으로 인한 (대부분 아동기의) 조기 사망을 예방하기 위해 필요했던 것과는 다를 것이지만, 변화의 규모는 전례 없는 수준은 아닐 것입니다. 구체적으로, 쥐의 최대 수명을 25~50%까지 연장하는 약물은 이미 존재하지만 부작용이 제한적입니다. 그리고 일부 동물(예: 일부 유형의 거북이)은 이미 200년을 살고 있으므로 인간은 이론적 상한선에 도달하지 않은 것이 분명합니다. 추측컨대, 가장 필요한 것은 실험과 임상시험을 빠르게 반복할 수 있는 신뢰할 수 있는 '비굿하트 법칙(non-Goodhart-able)'이 인간 노화의 바이오마커일 것입니다. 인간의 수명이 150세가 되면 '탈출 속도'에 도달하여 현재 살아있는 대부분의 사람들이 원하는 만큼 오래 살 수 있는 충분한 시간을 벌 수 있겠지만, 이것이 생물학적으로 가능하다는 보장은 확실하지 않을 수 있습니다.

이 목록을 살펴보고 지금부터 7~12년 후에 이 모든 것이 달성된다면 세상이 얼마나 달라질지 생각해 볼 가치가 있습니다(공격적인 AI 타임라인과 일치할 것입니다). 수천 년 동안 인류를 괴롭혀온 대부분의 재앙이 한꺼번에 제거되는, 상상할 수 없는 인도주의적 승리가 될 것임은 두말할 나위가 없습니다. 많은 친구와 동료들이 아이를 키우고 있는데, 그 아이들이 자랄 때 질병에 대한 언급이 괴혈병, 천연두, 또는 페스트가 우리에게 들리는 것처럼 들렸으면 좋겠습니다. 그 세대는 생물학적 자유와 자기 표현의 증가라는 혜택을 누리며, 운이 좋으면 원하는 만큼 오래 살 수도 있을 것입니다.

강력한 인공지능을 기대했던 소수의 사람들을 제외한 모든 사람들에게 이러한 변화가 얼마나 놀라운 일인지 과대평가하기는 어렵습니다. 예를 들어, 현재 미국의 수천 명의 경제학자와 정책 전문가들은 소셜 시큐리티와 메디케어의 재정 상태를 유지하는 방법, 더 넓게는 의료 비용(주로 70세 이상, 특히 암과 같은 말기 질환을 앓고 있는 사람들이 많이 소비하는)을 낮추는 방법에 대해 논의하고 있습니다. 이 모든 것이 실현된다면 노동 연령과 은퇴 인구의 비율이 급격하게 변화할 것이므로 이러한 프로그램의 상황은 근본적으로 개선될 가능성이 높습니다. 물론 새로운 기술에 대한 광범위한 접근을 어떻게 보장할 것인가와 같은 다른 과제로 대체되겠지만, 생물학이 인공지능이 성공적으로 가속화하는 유일한 분야라고 해도 세상이 얼마나 변화할지 생각해 볼 필요가 있습니다.

2. 신경과학과 정신

이전 섹션에서는 일반적인 신체 질환과 생물학에 초점을 맞추었고 신경과학이나 정신 건강에 대해서는 다루지 않았습니다. 하지만 신경과학은 생물학의 하위 분야이며 정신 건강은 신체 건강만큼이나 중요합니다. 사실 정신 건강은 신체 건강보다 훨씬 더 직접적으로 인간의 웰빙에 영향을 미칩니다. 수억 명의 사람들이 중독, 우울증, 조현병, 저기능 자폐증, 외상 후 스트레스 장애, 정신병 또는 지적 장애와 같은 문제로 인해 삶의 질이 매우 낮습니다. 수십억 명이 이러한 심각한 임상 장애의 훨씬 가벼운 버전으로 해석할 수 있는 일상적인 문제로 어려움을 겪고 있습니다. 그리고 일반 생물학과 마찬가지로, 문제를 해결하는 것을 넘어 인간 경험의 기본적인 질을 개선하는 것이 가능할 수도 있습니다.

제가 생물학에 대해 설명한 기본 틀은 신경과학에도 동일하게 적용됩니다. 위의 목록에서 광유전학은 신경과학의 발견이었으며, 최근에는 CLARITY(의료 영상 촬영 기법)와 확대 현미경도 같은 맥락의 발전이며, 많은 일반 세포 생물학 방법이 신경과학으로 직접 이어져 오고 있는 것도 같은 맥락에서 볼 수 있습니다. 저는 이러한 발전의 속도가 AI에 의해 비슷하게 가속화될 것이며, 따라서 '5~10년 안에 100년의 진보'라는 프레임워크가 생물학과 같은 방식으로 그리고 같은 이유로 신경과학에도 적용될 것이라고 생각합니다. 생물학과 마찬가지로 20세기 신경과학의 발전은 엄청났으며, 예를 들어 1950년대까지만 해도 뉴런이 어떻게, 왜 발화하는지조차 이해하지 못했습니다. 따라서 AI로 가속화된 신경과학은 몇 년 동안 급속한 발전을 이룰 것으로 예상하는 것이 합리적입니다.

이 기본적인 그림에 한 가지 추가해야 할 것이 있는데, 지난 몇 년 동안 AI 자체에 대해 우리가 배웠거나 배우고 있는 것 중 일부는 신경과학이 인간에 의해서만 계속 수행되더라도 신경과학 발전에 도움이 될 가능성이 있다는 것입니다. 해석 가능성이 대표적인 예입니다: 생물학적 뉴런은 표면적으로는 인공 뉴런과 완전히 다른 방식으로 작동하지만(스파이크를 통해 통신하고 종종 스파이크 속도가 빨라 인공 뉴런에는 없는 시간 요소가 존재하며 세포 생리학 및 신경전달물질과 관련된 여러 세부 사항이 뉴런의 작동을 크게 수정합니다), '어떻게 분산되어 있는가'라는 기본 질문은 여전히 유효합니다, 선형/비선형 연산을 함께 수행하는 단순한 단위의 훈련된 네트워크가 어떻게 중요한 연산을 수행하는가"라는 기본적인 질문은 동일하며, 계산과 회로에 관한 대부분의 흥미로운 질문에서 개별 뉴런 통신의 세부 사항은 추상화될 것이라고 생각합니다. 한 가지 예로, 최근 AI 시스템에서 해석 가능성 연구자들이 발견한 계산 메커니즘이 생쥐의 뇌에서 재발견되었습니다.

인공 신경망은 실제 신경망보다 실험하기가 훨씬 쉽기 때문에(후자는 종종 동물의 뇌를 절단해야 함), 해석 가능성은 신경과학에 대한 이해를 높이는 도구가 될 수 있습니다. 또한, 강력한 인공지능은 아마도 인간보다 이 도구를 더 잘 개발하고 적용할 수 있을 것입니다.

하지만 단순한 해석 가능성을 넘어, 지능형 시스템이 어떻게 학습되는지에 대해 우리가 AI로부터 배운 것은 (아직 확실하지는 않지만) 신경과학에 혁명을 일으킬 것입니다. 제가 신경과학 분야에서 일할 때만 해도 많은 사람이 학습에 대해 지금 생각하면 잘못된 질문이라고 생각하는 것에 집중했는데, 그 이유는 확장 가설 / 쓰라린 교훈이라는 개념이 아직 존재하지 않았기 때문이죠. 단순한 목적 함수에 많은 데이터를 더하면 엄청나게 복잡한 동작을 유도할 수 있다는 생각은 목적 함수와 아키텍처 편향에 대한 이해는 더 흥미롭게 만들고, 새로운 계산의 세부 사항을 이해하는 것은 덜 흥미롭게 만듭니다. 저는 최근 몇 년 동안 이 분야를 면밀히 추적하지는 않았지만, 계산 신경과학자들이 아직 이 교훈을 완전히 흡수하지 못했다는 막연한 느낌이 듭니다. 스케일링 가설에 대한 저의 태도는 항상 "아하, 이것은 지능이 어떻게 작동하고 어떻게 그렇게 쉽게 진화했는지에 대한 높은 수준의 설명이다"였지만, 부분적으로는 "지능의 비밀"이라는 스케일링 가설이 AI 내부에서도 완전히 수용되지 않았기 때문에 평균적인 신경과학자의 견해라고 생각하지 않습니다.

저는 신경과학자들이 이러한 기본적인 통찰력을 인간 뇌의 특수성(생물물리학적 한계, 진화의 역사, 위상학, 운동 및 감각 입출력의 세부 사항)과 결합하여 신경과학의 핵심 퍼즐을 풀기 위해 노력해야 한다고 생각합니다. 일부는 그럴 가능성이 있지만 아직 충분하지 않다고 생각하며, AI 신경과학자들은 이러한 관점을 보다 효과적으로 활용하여 발전을 가속화할 수 있을 것으로 생각합니다.

저는 AI가 네 가지 경로를 통해 신경과학적 진보를 가속화할 것으로 기대하며, 이 모든 경로가 정신질환을 치료하고 기능을 개선하는 데 함께 작용할 수 있기를 희망합니다:

• 전통적 분자생물학, 화학, 유전학. 이는 본질적으로 섹션 1의 일반 생물학과 같은 이야기이며, AI는 동일한 메커니즘을 통해 속도를 높일 수 있습니다. 뇌 기능을 변화시키고, 주의력이나 지각에 영향을 미치며, 기분을 변화시키는 등의 목적으로 신경전달물질을 조절하는 약물은 많이 있으며, AI는 더 많은 약물을 발명할 수 있도록 도울 수 있습니다. 또한 AI는 정신 질환의 유전적 기초에 대한 연구를 가속화할 수 있습니다.

• 세분화된 신경 측정 및 개입. 이는 수많은 개별 뉴런 또는 신경 회로가 무엇을 하고 있는지 측정하고 행동을 변화시키기 위해 개입하는 능력입니다. 광유전학 및 신경 프로브는 살아있는 유기체에 대한 측정과 개입이 모두 가능한 기술이며, 많은 수의 개별 뉴런의 발화 패턴을 읽어내는 분자 티커 테이프와 같은 매우 진보된 방법도 제안되었으며 원칙적으로 가능한 것으로 보입니다.

• 고급 계산 신경과학. 위에서 언급한 바와 같이, 현대 AI의 구체적인 통찰력과 게슈탈트는 정신병이나 기분 장애와 같은 복잡한 질병의 실제 원인과 역학을 밝히는 것을 포함하여 시스템 신경과학의 문제에 유용하게 적용될 수 있을 것입니다.

• 행동 개입. 신경과학의 생물학적 측면에 초점을 맞추느라 많이 언급하지는 않았지만, 정신의학과 심리학은 물론 20세기 동안 다양한 행동 개입 레퍼토리를 개발해 왔으며, AI가 새로운 방법의 개발과 환자가 기존 방법을 고수하도록 돕는 것 모두에서 이러한 노력을 가속화할 수 있다는 것은 당연한 일입니다. 좀 더 넓게 보면, 항상 최고의 자신이 될 수 있도록 도와주고, 상호작용을 연구하고 더 효과적인 방법을 배우도록 도와주는 'AI 코치'라는 아이디어는 매우 유망해 보입니다.

이 네 가지 발전 경로가 함께 작동하면 신체 질환과 마찬가지로 AI가 개입하지 않더라도 향후 100년 내에 대부분의 정신 질환을 치료하거나 예방할 수 있을 것이며, 따라서 AI가 가속화되는 5~10년 내에 합리적으로 완료될 수 있을 것으로 예상합니다. 구체적으로 어떤 일이 일어날지에 대한 제 예상은 다음과 같습니다:

• 대부분의 정신 질환은 아마도 치료할 수 있을 것입니다. 저는 정신과 질환에 대한 전문가는 아니지만(신경과학을 전공하면서 소수의 뉴런 그룹을 연구하기 위해 탐침을 만드는 데 시간을 보냈습니다), 위의 네 가지 방향을 조합하여 PTSD, 우울증, 조현병, 중독 등과 같은 질병을 파악하고 매우 효과적으로 치료할 수 있다고 생각합니다. 그 해답은 "생화학적으로 무언가 잘못되었다"와 (매우 복잡할 수 있지만) "높은 수준의 신경망에 무언가 잘못되었다"의 조합이 될 가능성이 높습니다. 즉, 이는 시스템 신경과학의 문제이지만 위에서 설명한 행동 개입의 영향을 부인할 수는 없습니다. 특히 살아있는 인간을 대상으로 한 측정 및 개입 도구는 빠른 반복과 진전을 가져올 것으로 보입니다.

• 매우 "구조적"인 상태(conditions)는 더 어려울 수 있지만 불가능하지는 않습니다. 사이코패스는 명백한 신경해부학적 차이와 관련이 있다는 증거, 즉 사이코패스의 일부 뇌 영역이 단순히 더 작거나 덜 발달했다는 몇 가지 증거가 있습니다. 또한 사이코패스는 어릴 때부터 공감 능력이 부족한 것으로 알려져 있는데, 뇌에 어떤 차이가 있든 간에 원래부터 그랬을 가능성이 높습니다. 일부 지적 장애나 다른 질환도 마찬가지일 수 있습니다. 뇌를 재구성하는 것은 어렵게 들리지만, 지능을 회복할 수 있는 가능성이 높은 작업이기도 합니다. 아마도 성인의 뇌를 더 일찍 또는 더 가소성 있는 상태로 만들어서 재구성할 수 있는 방법이 있을지도 모릅니다. 이것이 얼마나 가능할지는 잘 모르겠지만, 제 본능은 AI가 여기서 무엇을 발명할 수 있을지 낙관하고 있습니다.

• 정신질환의 효과적인 유전적 예방이 가능해 보입니다. 대부분의 정신 질환은 부분적으로 유전되며, 관련 요인을 규명하기 위한 유전체 전반의 연관성 연구가 추세를 보이기 시작했고, 그 수가 많습니다. 신체 질환의 경우와 마찬가지로 태아 선별검사를 통해 이러한 질병의 대부분을 예방할 수 있을 것입니다. 한 가지 차이점은 정신질환은 다유전성(많은 유전자가 기여)일 가능성이 높기 때문에 복잡성으로 인해 무의식적으로 질병과 상관관계가 있는 양성 형질을 선택할 위험이 증가한다는 점입니다. 그러나 이상하게도 최근 몇 년간의 GWAS 연구에 따르면 이러한 상관관계가 과장되었을 수 있다고 합니다. 어쨌든 AI로 가속화된 신경과학은 이러한 것들을 알아내는 데 도움이 될 수 있습니다. 물론 복잡한 형질에 대한 배아 선별 검사는 많은 사회적 문제를 야기하고 논란의 여지가 있지만, 대부분의 사람들은 중증 또는 쇠약해지는 정신 질환에 대한 선별 검사를 지지할 것이라고 생각합니다.

• 임상 질환이라고 생각하지 않는 일상적인 문제도 해결됩니다. 우리 대부분은 일반적으로 임상 질환의 수준까지 올라간다고 생각하지 않는 일상적인 심리적 문제를 가지고 있습니다. 어떤 사람들은 쉽게 화를 내고, 어떤 사람들은 집중력이 떨어지거나 자주 졸리고, 어떤 사람들은 두려움이나 불안에 시달리거나 변화에 심하게 반응합니다. 현재 카페인, 모다피닐, 리탈린 등 주의력이나 집중력 향상에 도움이 되는 약물이 이미 존재하지만, 이전의 다른 많은 분야와 마찬가지로 훨씬 더 많은 약물이 개발될 수 있을 것으로 보입니다. 아마도 아직 발견되지 않은 더 많은 약물이 존재할 것이며, 표적 광자극(위의 광유전학 참조) 또는 자기장과 같은 완전히 새로운 방식의 개입도 있을 수 있습니다. 20세기에 인지 기능과 감정 상태를 조절하는 수많은 약물이 개발되었음을 감안할 때, 저는 모든 사람이 뇌가 좀 더 잘 작동하고 더 만족스러운 일상을 경험할 수 있는 '압축된 21세기'에 대해 매우 낙관적으로 생각합니다.

• 인간의 기본 경험은 훨씬 더 좋아질 수 있습니다. 한 걸음 더 나아가 많은 사람들이 계시, 창조적 영감, 연민, 성취감, 초월, 사랑, 아름다움 또는 명상적 평화의 특별한 순간을 경험했습니다. 이러한 경험의 성격과 빈도는 사람마다 그리고 같은 사람 내에서도 시기에 따라 크게 다르며, 때로는 다양한 약물에 의해 유발될 수도 있습니다(종종 부작용이 동반되기도 하지만). 이 모든 것은 '경험할 수 있는 공간'이 매우 넓으며, 사람들의 삶의 상당 부분이 이러한 특별한 순간으로 구성될 수 있음을 시사합니다. 또한 전반적으로 다양한 인지 기능을 향상시킬 수도 있을 것입니다. 이것은 아마도 "생물학적 자유" 또는 "수명 연장"의 신경과학적 버전일 것입니다.

AI에 대한 공상과학 소설에서 자주 등장하지만 여기서는 의도적으로 다루지 않은 주제 중 하나는 인간 두뇌의 패턴과 역학을 포착하여 소프트웨어로 인스턴스화하는 아이디어인 "마인드 업로드"입니다. 이 주제는 그 자체로 하나의 에세이 주제가 될 수 있지만, 원칙적으로는 업로드가 거의 확실하게 가능하다고 생각하지만, 실제로는 강력한 AI가 있더라도 우리가 논의하는 5~10년이라는 기간을 벗어나는 상당한 기술적, 사회적 도전에 직면해 있다고 말하는 것으로 충분할 것 같습니다.

요약하자면, AI로 가속화된 신경과학은 대부분의 정신 질환에 대한 치료법을 크게 개선하거나 심지어 치료할 수 있을 뿐만 아니라 '인지적, 정신적 자유'와 인간의 인지적, 정서적 능력을 크게 확장할 수 있을 것으로 보입니다. 이는 이전 섹션에서 설명한 신체 건강의 개선만큼이나 급진적인 변화가 될 것입니다. 겉으로 보기에는 세상이 눈에 띄게 달라지지는 않겠지만, 인간이 경험하는 세상은 훨씬 더 인간적이고 더 나은 곳이 될 뿐만 아니라 자아실현의 기회가 더 많아지는 곳이 될 것입니다. 또한 정신 건강이 개선되면 정치적 또는 경제적 문제를 포함한 다른 많은 사회 문제도 개선될 것이라고 생각합니다.

3. 경제 발전과 빈곤

앞의 두 섹션은 질병을 치료하고 인간의 삶의 질을 향상시키는 신기술 개발에 관한 내용입니다. 하지만 인도주의적 관점에서 보면 분명한 질문이 있습니다: "모든 사람이 이러한 기술에 접근할 수 있는가?"입니다.

질병에 대한 치료법을 개발하는 것과 이 세상에서 질병을 퇴치하는 것은 별개의 문제입니다. 더 넓게 보면, 기존의 많은 보건 개입이 아직 전 세계 모든 곳에 적용되지 않았으며, 일반적으로 (비보건) 기술 개선도 마찬가지입니다. 이를 달리 말하면, 세계 여러 지역의 생활 수준이 여전히 절망적으로 열악하다는 것입니다. 1인당 GDP는 사하라 이남 아프리카에서 2,000달러인 반면 미국은 75,000달러에 불과합니다. AI가 선진국의 경제 성장과 삶의 질을 더욱 향상시키는 반면 개발도상국에는 거의 도움이 되지 않는다면, 이는 끔찍한 도덕적 실패이자 앞의 두 섹션에서 살펴본 진정한 인도주의적 승리에 흠이 되는 것으로 간주해야 합니다. 이상적으로는 강력한 인공지능이 개발도상국이 선진국을 따라잡을 수 있도록 도와야 하며, 심지어 후자를 혁명적으로 변화시켜야 합니다.

저는 AI가 불평등과 경제 성장을 해결할 수 있다는 확신만큼이나 근본적인 기술을 발명할 수 있다는 확신도 없습니다. 왜냐하면 기술은 지능(복잡성과 데이터 부족을 우회하는 능력 포함)에 대한 높은 수익률을 보이는 반면 경제는 인간의 많은 제약과 내재적 복잡성을 수반하기 때문입니다. 저는 인공지능이 그 유명한 "사회주의 계산 문제"를 해결할 수 있을지에 대해 다소 회의적이며, 설사 그렇게 할 수 있다고 하더라도 정부가 경제 정책을 그런 기관에 넘겨줄 것 같지도 않고, 또 그래야 한다고 생각하지도 않습니다. 또한 효과는 있지만 의심스러울 수 있는 치료법을 사람들이 복용하도록 설득하는 방법과 같은 문제도 있습니다.

개발도상국이 직면한 문제는 민간 및 공공 부문 모두에서 만연한 부패로 인해 더욱 복잡해지고 있습니다. 부패는 빈곤을 악화시키고, 빈곤은 다시 더 많은 부패를 낳는 악순환의 고리를 형성합니다. AI가 주도하는 경제 개발 계획은 부패, 취약한 제도, 기타 매우 인간적인 문제를 고려해야 합니다.

그럼에도 불구하고 낙관할 만한 상당한 이유가 있습니다. 질병 이 퇴치되었고 많은 국가 가 빈곤국에서 부국으로 바뀌었으며, 이러한 작업과 관련된 결정은 인간의 제약과 복잡성에도 불구하고 지능에 대한 높은 수익률을 보인다는 것이 분명합니다. 따라서 인공지능은 현재보다 이러한 작업을 더 잘 수행할 수 있을 것입니다. 또한 인간의 제약을 극복하고 AI가 집중할 수 있는 표적화된 개입이 있을 수도 있습니다. 하지만 더 중요한 것은 우리가 시도해야 한다는 것입니다. AI 기업과 선진국 정책 입안자 모두 개발도상국이 소외되지 않도록 각자의 역할을 다해야 하며, 이는 도덕적 의무이기도 합니다. 따라서 이 섹션에서는 계속해서 낙관적인 사례를 제시하겠지만, 성공이 보장되는 것은 아니며 우리의 공동 노력에 달려 있다는 점을 항상 염두에 두어야 합니다.

아래에서 강력한 AI가 개발된 후 5~10년 동안 개발도상국에서 어떤 일이 벌어질지 몇 가지 추측을 해봅니다:

• 보건 개입의 확산. 제가 가장 낙관적으로 생각하는 분야는 전 세계에 보건 개입을 확산하는 것입니다. 천연두는 1970년대에 완전히 퇴치되었고, 소아마비와 기니피그는 연간 100건 미만으로 거의 박멸되었습니다. <수학적으로 정교한 역학 모델링은 질병 퇴치 캠페인에서 적극적인 역할을 하고 있으며, 인간보다 더 똑똑한 AI 시스템이 이를 더 잘 수행할 수 있는 여지가 매우 높아 보입니다. 유통 물류도 크게 최적화할 수 있을 것입니다. 제가 기브웰(GiveWell)의 초기 기부자로서 배운 한 가지는 일부 보건 자선단체가 다른 단체보다 훨씬 더 효과적이라는 점인데, AI가 가속화하면 더 효과적일 것이라는 희망이 있습니다. 예를 들어, 말라리아는 감염될 때마다 치료가 필요하기 때문에 근절이 어려웠는데, 한 번만 접종하면 되는 백신이 개발되면 물류가 훨씬 간편해집니다(실제로 말라리아 백신 이 현재 개발 중입니다). 더 간단한 배포 메커니즘도 가능합니다. 일부 질병은 원칙적으로 동물 매개체를 표적으로 삼아 박테리아에 감염된 모기를 방출하여 질병을 옮기는 능력을 차단하거나(그러면 다른 모든 모기를 감염시키는) 유전자 드라이브를 사용하여 모기를 박멸하는 방식으로 근절할 수 있습니다. 이를 위해서는 수백만 명을 개별적으로 치료해야 하는 조정된 캠페인이 아니라 하나 또는 몇 가지 중앙 집중식 조치가 필요합니다. 전반적으로, 저는 5-10년은 세계에서 가장 가난한 국가에도 AI 기반 보건 혜택의 상당 부분(아마도 50%)이 전파될 수 있는 합리적인 시간이라고 생각합니다. 강력한 AI가 도입된 후 5~10년 후에는 개발도상국이 선진국보다 계속 뒤처지더라도 적어도 현재보다 훨씬 더 건강해지는 것이 좋은 목표가 될 수 있습니다. 물론 이를 달성하기 위해서는 글로벌 보건, 자선 활동, 정치적 옹호 등 많은 노력이 필요하며, AI 개발자와 정책 입안자 모두 이를 위해 노력해야 합니다.

• 경제 성장. 개발도상국이 건강뿐만 아니라 경제 전반에 걸쳐 선진국을 빠르게 따라잡을 수 있을까요? 이에 대한 선례가 있습니다: 20세기 말 수십 년 동안 여러 동아시아 경제는 연간 실질 GDP 성장률 10%를 지속적으로 달성하여 선진국을 따라잡을 수 있었습니다. 인간 경제 계획가들은 경제 전체를 직접 통제한 것이 아니라 수출 주도 성장의 산업 정책, 천연자원 부의 유혹에 대한 저항 등 몇 가지 핵심 수단을 통해 이러한 성공을 이끌어낸 결정을 내렸으며, '인공지능 재무 장관과 중앙은행가'가 이 10%의 성과를 재현하거나 초과할 수 있다는 것은 그럴듯한 일입니다. 중요한 문제는 개발도상국 정부가 자기 결정의 원칙을 존중하면서 이를 채택하도록 하는 방법인데, 일부는 이에 대해 열광할 수도 있지만 다른 일부는 회의적일 가능성이 높습니다. 낙관적인 측면에서는 앞서 소개한 많은 보건 개입이 유기적으로 경제 성장을 촉진할 가능성이 높습니다. 에이즈/말라리아/기생충 퇴치는 생산성에 혁신적인 효과를 가져올 것이며, 일부 신경과학 개입(기분 및 집중력 향상 등)이 선진국과 개발도상국 모두에게 가져올 경제적 혜택은 말할 것도 없고요. 마지막으로, AI로 가속화된 비의료 기술(예: 에너지 기술, 운송용 드론, 건축 자재 개선, 물류 및 유통 개선 등)은 자선 활동 없이도 시장 메커니즘을 통해 사하라 이남 아프리카에 빠르게 보급된 휴대폰처럼 자연스럽게 전 세계에 스며들 수 있습니다. 부정적인 측면에서는 AI와 자동화가 많은 잠재적 이점을 제공하지만, 특히 아직 산업화가 이루어지지 않은 국가에서는 경제 발전에 어려움을 겪을 수도 있습니다. 이러한 국가들이 자동화가 증가하는 시대에도 경제를 발전시키고 개선할 수 있는 방법을 찾는 것은 경제학자와 정책 입안자들이 해결해야 할 중요한 과제입니다. 개발도상국의 연간 GDP 성장률이 20%에 달하고, 그 중 10%는 AI를 활용한 경제적 의사 결정과 보건을 포함한 AI 가속 기술의 자연스러운 확산에서 비롯되는 것이 꿈의 시나리오이자 목표가 될 수 있습니다. 이 목표가 달성되면 사하라 사막 이남 아프리카는 5~10년 내에 중국의 현재 1인당 GDP 수준에 도달하고, 나머지 개발도상국의 대부분은 현재 미국 GDP보다 높은 수준으로 끌어올릴 수 있습니다. 다시 말하지만, 이것은 꿈의 시나리오이며, 기본적으로 일어나는 일이 아니라 우리 모두가 함께 노력해야 실현 가능성을 높일 수 있는 일입니다.

• 식량 안보. 더 나은 비료와 살충제, 더 많은 자동화, 더 효율적인 토지 사용과 같은 농작물 기술의 발전은 20세기에 걸쳐 농작물 수확량을 크게 증가시켜 수백만 명의 사람들을 기아로부터 구해냈습니다. 유전공학은 현재 많은 작물의 생산성을 더욱 향상시키고 있습니다. 이를 위한 더 많은 방법을 찾고 농업 공급망을 더욱 효율적으로 만들면 개발도상국과 선진국 간의 격차를 줄이는 데 도움이 되는 AI 기반의 제2의 녹색 혁명을 이룰 수 있습니다.

• 기후 변화 완화. 기후 변화는 개발도상국에서 훨씬 더 강하게 느껴질 것이며, 이는 개발도상국의 발전을 저해할 것입니다. AI는 대기 중 탄소 제거 및 청정 에너지 기술부터 탄소 집약적인 공장식 축산에 대한 의존도를 낮추는 실험실에서 키운 고기에 이르기까지 기후 변화를 늦추거나 예방하는 기술의 개선을 이끌어낼 것으로 기대할 수 있죠. 물론 위에서 설명한 것처럼 이 글에서 논의한 다른 모든 문제와 마찬가지로 기후 변화의 진전을 제한하는 것은 기술만이 아니며, 인간 사회적인 요인도 중요합니다. 하지만 AI를 활용한 연구가 기후 변화를 완화하는 데 드는 비용과 혼란을 훨씬 줄일 수 있는 수단을 제공함으로써 많은 반대의견을 무색하게 만들고 개발도상국이 더 많은 경제적 발전을 이룰 수 있게 할 것이라고 생각할 만한 충분한 이유가 있습니다.

• 국가 내 불평등. 저는 주로 불평등을 전 세계적인 현상(이것이 가장 중요한 현상이라고 생각합니다)으로 이야기했지만, 물론 불평등은 국가 내 에도 존재합니다. 첨단 의료 개입, 특히 수명의 급진적 연장이나 인지력 향상 약물의 경우 이러한 기술이 '부자들만 위한 것'이라는 우려는 분명 타당할 것입니다. 저는 특히 선진국의 국가 내 불평등에 대해 두 가지 이유로 더 낙관적입니다. 첫째, 선진국에서는 시장이 더 잘 작동하고, 시장은 일반적으로 시간이 지남에 따라 고가 기술의 비용을 낮추는 데 능숙합니다. 둘째, 선진국의 정치 기관은 시민들에게 더 잘 반응하고 보편적 접근 프로그램을 실행할 수 있는 국가적 역량을 갖추고 있으며, 시민들은 삶의 질을 근본적으로 개선하는 기술에 대한 접근을 요구할 것으로 예상합니다. 물론 그러한 요구가 성공할 것이라고 미리 정해져 있는 것은 아니며, 공정한 사회를 위해 우리가 함께 최선을 다해야 할 또 다른 영역이 여기에 있습니다. 부의 불평등(생명을 구하고 삶을 개선하는 기술에 대한 접근의 불평등과는 대조적으로)은 더 어려워 보이며 섹션 5에서 논의하는 별도의 문제가 있습니다.

• 옵트-아웃(opt-out, 자발적 거부) 문제. 선진국과 개발도상국 모두에서 우려되는 한 가지 문제는 사람들이 (백신 반대 운동이나 더 일반적으로 러다이트 운동과 유사한) AI를 통한 혜택을 거부하는 것입니다. 예를 들어, 의사 결정 능력이 가장 떨어지는 사람들이 의사 결정 능력을 향상시키는 바로 그 기술을 거부함으로써 격차가 점점 더 커지고 심지어 디스토피아적 하층민을 만들어내는 나쁜 피드백 사이클이 발생할 수 있습니다(일부 연구자들은 이것이 민주주의를 약화시킬 것이라고 주장하며, 다음 섹션에서 자세히 논의합니다). 이는 다시 한 번 AI의 긍정적인 발전에 도덕적 흠집을 낼 수 있습니다. 사람들을 강요하는 것은 윤리적으로 옳지 않다고 생각하기 때문에 해결하기 어려운 문제이지만, 적어도 사람들의 과학적 이해를 높이기 위해 노력할 수 있으며, 아마도 AI 자체가 이를 도울 수 있을 것입니다. 한 가지 희망적인 징후는 역사적으로 반기술 운동이 물기보다는 껍질에 가까웠다는 점입니다. 현대 기술에 대한 반발은 인기가 있지만, 대부분의 사람들은 적어도 개인의 선택의 문제일 때는 결국 기술을 채택합니다. 개인이 대부분의 건강 및 소비자 기술을 채택하는 경향이 있지만 원자력처럼 정말 방해가 되는 기술은 집단적인 정치적 결정에 의해 채택되는 경향이 있습니다.

전반적으로 저는 개발도상국 사람들에게 AI의 생물학적 발전을 빠르게 가져다줄 수 있다는 점에 대해 낙관적입니다. 확신은 못하지만 AI가 전례 없는 경제 성장률을 가능하게 하고 개발도상국이 적어도 현재 선진국의 수준을 뛰어넘을 수 있을 것이라는 희망도 갖고 있습니다. 저는 선진국과 개발도상국 모두에서 '옵트아웃' 문제가 우려되지만, 시간이 지나면 사라질 것이며 AI가 이 과정을 가속화하는 데 도움이 될 수 있다고 생각합니다. 완벽한 세상은 없을 것이며, 뒤처진 사람들은 적어도 처음 몇 년 동안은 완전히 따라잡을 수 없을 것입니다. 하지만 우리의 강력한 노력으로 올바른 방향으로 빠르게 나아갈 수 있을 것입니다. 그렇게 된다면 지구상의 모든 인간에게 빚진 존엄성과 평등에 대한 약속을 지키기 위한 최소한의 선불금을 지불할 수 있을 것입니다.

4. 평화와 거버넌스

질병, 빈곤, 불평등이 크게 감소하고 인간 경험의 기준선이 크게 높아지는 등 처음 세 가지 섹션의 모든 것이 잘 진행된다고 가정해 보겠습니다. 그렇다고 해서 인간 고통의 주요 원인이 모두 해결되는 것은 아닙니다. 인간은 여전히 서로에게 위협적인 존재입니다. 기술 발전과 경제 발전이 민주주의와 평화로 이어지는 추세가 있긴 하지만, 이는 매우 느슨한 추세로 자주 (그리고 최근에도) 후퇴하고 있습니다. 20세기 초에 사람들은 전쟁은 이제 끝났다고 생각했지만, 두 차례의 세계대전이 일어났습니다. 30년 전 프랜시스 후쿠야마는 '역사의 종말'과 자유민주주의의 최종 승리에 대해 썼지만, 아직 그런 일은 일어나지 않았습니다. 20년 전 미국 정책 입안자들은 중국과의 자유무역으로 중국이 부유해지면 자유화가 이루어질 것이라고 믿었지만, 그런 일은 일어나지 않았고 지금은 다시 부활한 권위주의 블록과 함께 제2의 냉전으로 향하고 있는 것처럼 보입니다. 그리고 인터넷 기술 이 초기에 믿었던 것처럼 민주주의가 아니라 오히려 권위주의에 유리할 수 있다는 그럴듯한 이론도 있습니다(예: "아랍의 봄" 시기). 이러한 평화, 민주주의, 자유의 문제와 인공지능이 얼마나 강력한 힘을 발휘할지 이해하는 것이 중요해 보입니다.

안타깝게도 저는 AI가 구조적으로 인간의 건강을 증진하고 빈곤을 완화할 것이라고 생각하는 것과 마찬가지로 민주주의와 평화를 우선적으로 또는 구조적으로 발전시킬 것이라고 믿을 강력한 이유가 없다고 생각합니다. 인간의 갈등은 적대적이며 AI는 원칙적으로 '선한 쪽'과 '나쁜 쪽' 모두를 도울 수 있습니다. 오히려 일부 구조적 요인은 우려스러운 것처럼 보입니다: AI는 독재자의 주요 도구인 선전과 감시를 훨씬 더 효과적으로 수행할 수 있을 것으로 보입니다. 따라서 AI가 민주주의와 개인의 권리에 유리하게 작용하기를 원한다면, 우리는 그 결과를 위해 싸워야 합니다. 저는 국제적 불평등보다 더 강하게 느끼는 것은 자유민주주의와 정치적 안정의 승리가 보장되지 않고, 어쩌면 가능하지도 않으며, 과거에 종종 그랬던 것처럼 우리 모두의 큰 희생과 헌신이 필요하다는 것입니다.

저는 이 문제를 국제적 갈등과 국가 내부 구조의 두 가지 측면으로 나누어 생각합니다. 국제적 측면에서는 강력한 AI가 만들어질 때 민주주의가 세계 무대에서 우위를 점하는 것이 매우 중요해 보입니다. AI에 기반한 권위주의는 생각하기조차 끔찍한 일이기 때문에 민주주의 국가는 권위주의자들에 의해 압도당하는 것을 피하고 권위주의 국가 내에서 인권 침해를 방지하기 위해 강력한 AI가 세상에 도입되는 조건을 설정할 수 있어야 합니다.

현재 제가 생각하는 최선의 방법은 "엔텐트 전략"으로, 민주주의 연합이 공급망을 확보하고 빠르게 확장하며 칩과 반도체 장비 같은 핵심 자원에 대한 적의 접근을 차단하거나 지연시킴으로써 강력한 AI에 대한 확실한 우위(일시적일지라도)를 확보하고자 하는 방식입니다. 이 연합은 한편으로는 AI를 사용하여 강력한 군사적 우위(채찍)를 달성하는 동시에, 민주주의 증진을 위한 연합의 전략을 지원하는 대가로 강력한 AI의 혜택(당근)을 더 많은 국가 그룹에 분배하겠다고 제안할 것입니다("평화를 위한 원자력(Atoms for Peace)"와 약간 유사할 수 있습니다). 이 연합은 점점 더 많은 세계의 지지를 얻어 최악의 적들을 고립시키고 결국에는 다른 국가들과 동일한 협상, 즉 모든 혜택을 받기 위해 민주주의 국가들과의 경쟁을 포기하고 우월한 적과 싸우지 않는 것이 더 나은 위치에 서게 하는 것을 목표로 할 것입니다.

이 모든 것을 할 수 있다면 민주주의가 세계 무대를 주도하고 독재 국가에 의해 약화되거나 정복되거나 방해받지 않을 수 있는 경제적, 군사적 힘을 갖게 될 것이며, 인공지능의 우위를 지속적인 이점으로 활용할 수 있는 세상이 될 것입니다. 이는 낙관적으로는 민주주의가 우위를 점하고 후쿠야마의 꿈이 실현되는 '영원한 1991년'으로 이어질 수 있습니다. 다시 말하지만, 이는 달성하기 매우 어렵고 특히 민간 AI 기업과 민주적 정부 간의 긴밀한 협력과 당근과 채찍 사이의 균형에 대한 매우 현명한 결정이 필요할 것입니다.

모든 것이 순조롭게 진행된다고 해도 각 국가 내에서 민주주의와 독재 사이의 싸움이라는 문제가 남습니다. 여기서 어떤 일이 일어날지 예측하기는 분명히 어렵지만, 민주주의가 가장 강력한 AI를 통제하는 글로벌 환경을 고려할 때 AI가 실제로 모든 곳에서 구조적으로 민주주의를 선호할 수 있다는 낙관적인 전망을 해봅니다. 특히 이러한 환경에서 민주 정부는 우월한 AI를 사용하여 정보 전쟁에서 승리할 수 있습니다. 독재 정권의 영향력과 선전 활동에 대응할 수 있고, 독재 정권이 차단하거나 감시할 기술적 능력이 부족한 방식으로 정보 채널과 AI 서비스를 제공함으로써 전 세계적으로 자유로운 정보 환경을 조성할 수 있을지도 모릅니다. 선전을 전달할 필요 없이 악의적인 공격에 대응하고 정보의 자유로운 흐름을 차단하는 것만으로도 충분할 수 있습니다. 당장은 아니더라도 이와 같은 공평한 경쟁의 장은 여러 가지 이유로 글로벌 거버넌스를 민주주의로 점진적으로 기울일 수 있는 좋은 기회입니다.

첫째, 섹션 1~3의 삶의 질 향상은 모든 것이 평등해지면 민주주의를 촉진할 것이며, 역사적으로도 적어도 어느 정도는 그러했습니다. 특히 저는 정신 건강, 복지, 교육의 개선이 민주주의를 증진시킬 것으로 기대하는데, 이 세 가지 모두 권위주의적 지도자에 대한 지지와 부정적 상관관계가 있기 때문입니다. 일반적으로 사람들은 다른 욕구가 충족될 때 더 많은 자기 표현을 원하며, 민주주의는 무엇보다도 자기 표현의 한 형태입니다. 반대로 권위주의는 공포와 분노를 바탕으로 번성합니다.

둘째, 권위주의자들이 정보를 검열할 수 없는 한, 자유로운 정보가 실제로 권위주의를 약화시킬 가능성이 높습니다. 또한 검열되지 않은 AI는 개인에게 억압적인 정부를 약화시킬 수 있는 강력한 도구를 제공할 수도 있습니다. 억압적인 정부는 사람들이 '황제는 옷이 없다'는 사실을 깨닫지 못하도록 특정 종류의 상식을 부정함으로써 생존합니다. 예를 들어 세르비아의 밀로셰비치 정부를 무너뜨리는 데 도움을 준 Srđa Popović는 독재자의 권력을 심리적으로 박탈하여 마법을 깨고 독재자에 대한 지지를 모으는 기술에 대해 광범위하게 저술했습니다. 독재자들이 차단하거나 검열할 수 없는 초인적으로 효과적인 포포비치의 인공지능 버전이 모든 사람의 주머니 속에 있다면, 전 세계의 반체제 인사들과 개혁가들의 뒤에서 바람을 일으킬 수 있습니다. 다시 말하자면, 이 싸움은 길고 장기적인 싸움이 될 것이며 승리가 보장되지 않지만, 우리가 올바른 방식으로 AI를 설계하고 구축한다면 적어도 모든 곳에서 자유를 옹호하는 사람들이 유리한 싸움이 될 수 있습니다.

신경과학과 생물학에서와 마찬가지로, 우리는 독재를 피하는 방법뿐만 아니라 민주주의를 지금보다 더 나은 것으로 만드는 방법, 즉 '정상보다 더 나은 것'이 어떻게 가능할 수 있는지에 대해서도 질문할 수 있습니다. 민주주의 내에서도 불의는 항상 발생합니다. 법치주의 사회는 모든 사람이 법 앞에 평등하고 모든 사람이 기본적 인권을 누릴 권리가 있다고 시민들에게 약속하지만, 현실에서 사람들이 항상 그러한 권리를 보장받는 것은 아닙니다. 이 약속이 부분적으로나마 이행되고 있다는 것은 자랑스러운 일이지만, AI가 이를 더 잘 이행하는 데 도움을 줄 수 있을까요?

예를 들어, AI가 더 공정한 결정과 절차를 통해 우리의 법률 및 사법 시스템을 개선할 수 있을까요? 오늘날 사람들은 주로 법률이나 사법 분야에서 AI 시스템이 차별의 원인이 될 것이라고 우려하고 있으며, 이러한 우려는 중요하고 방어해야 할 필요가 있습니다. 동시에 민주주의의 활력은 위험에 대응하는 것뿐만 아니라 민주주의 제도를 개선하기 위해 새로운 기술을 활용하는 데 달려 있습니다. 진정으로 성숙하고 성공적인 AI 구현은 편견을 줄이고 모든 사람에게 더 공정한 사회를 만들 수 있는 잠재력을 가지고 있습니다.

수세기 동안 법률 시스템은 법은 공평함을 목표로 하지만 본질적으로 주관적이기 때문에 편견이 있는 사람이 해석해야 한다는 딜레마에 직면해 왔습니다. 현실 세계는 복잡하고 항상 수학적 공식으로 포착할 수 없기 때문에 법을 완전히 기계적으로 만들려는 시도는 효과가 없었습니다. 대신 법 시스템은 "잔인하고 비정상적인 형벌" 또는 "사회적 중요성을 전혀 고려하지 않고" 같은 악명 높은 부정확한 기준에 의존하여 인간이 해석하며 종종 편견, 편애 또는 자의성을 나타내는 방식으로 법을 해석합니다. 암호화폐의 "스마트 계약"이 법에 혁명을 일으키지 못한 이유는 일반 코드가 그 정도로 많은 이해관계를 판단할 만큼 똑똑하지 못하기 때문입니다. 하지만 AI는 반복 가능하고 기계적인 방식으로 광범위하고 모호한 판단을 내릴 수 있는 최초의 기술이기 때문에 충분히 똑똑할 수 있습니다.

말 그대로 판사를 AI 시스템으로 대체하자는 것은 아니지만, 공정성과 복잡한 현실 상황을 이해하고 처리하는 능력의 결합은 법과 사법에 상당히 긍정적인 영향을 미칠 수 있을 것으로 기대됩니다. 최소한 이러한 시스템은 인간과 함께 의사결정을 보조하는 역할을 할 수 있을 것입니다. 이러한 시스템에서는 투명성이 중요하며, 성숙한 AI 과학이 이를 제공할 수 있습니다. 이러한 시스템의 학습 과정을 광범위하게 연구할 수 있고, 고급 해석 가능성 기술을 사용하여 최종 모델의 내부를 살펴보고 숨겨진 편견이 있는지 평가할 수 있으며, 이는 인간으로는 불가능한 방식입니다. 이러한 AI 도구는 사법 또는 경찰의 기본권 침해 여부를 모니터링하여 헌법의 자기 집행력을 높이는 데도 사용될 수 있습니다.

비슷한 맥락에서 AI는 시민들 사이에서 의견을 수렴하고 합의를 이끌어내 갈등을 해결하고 공통점을 찾고 타협을 모색하는 데 사용될 수 있습니다. 이러한 방향에 대한 초기 아이디어 중 일부는 컴퓨터 민주주의 프로젝트에서 수행되었으며, 여기에는 앤트로픽과의 협력이 포함되어 있습니다. 정보에 입각하고 사려 깊은 시민은 분명히 민주적 제도를 강화할 것입니다.

또한 원칙적으로는 모든 사람이 이용할 수 있지만 실제로는 심각하게 부족하고 일부 지역에서는 다른 지역보다 더 열악한 의료 혜택이나 사회 서비스 같은 정부 서비스를 제공하는 데 AI를 활용할 수 있는 분명한 기회도 있습니다. 여기에는 의료 서비스, 차량국, 세금, 사회보장, 건축법 집행 등이 포함됩니다. 정부로부터 법적으로 받을 수 있는 모든 권리를 사용자가 이해할 수 있는 방식으로 제공하고, 종종 혼란스러운 정부 규정을 준수하도록 도와주는 매우 사려 깊고 정보에 입각한 AI가 있다면 큰 도움이 될 것입니다. 국가의 역량을 강화하면 법에 따른 평등이라는 약속을 이행하는 데 도움이 되고 민주적 거버넌스에 대한 존중을 강화할 수 있습니다. 제대로 구현되지 않은 서비스는 현재 정부에 대한 냉소주의의 주요 원인입니다.

이 모든 것은 다소 모호한 아이디어이며, 이 섹션의 서두에서 말했듯이 저는 생물학, 신경과학, 빈곤 퇴치의 발전만큼이나 그 실현 가능성에 대해 확신을 가지고 있지 않습니다. 비현실적으로 유토피아적일 수도 있습니다. 하지만 중요한 것은 야심찬 비전을 갖고 큰 꿈을 꾸고 기꺼이 시도하는 것입니다. 자유, 개인의 권리, 법에 따른 평등을 보장하는 AI의 비전은 싸우지 않기에는 너무도 강력한 비전입니다. 21세기의 AI 기반 정치는 개인의 자유를 더욱 강력하게 보호하는 동시에 자유민주주의를 전 세계가 채택하고자 하는 정부 형태로 만드는 희망의 등불이 될 수 있습니다.

5. 일과 의미

앞의 네 가지 섹션의 모든 일이 잘 진행되어 질병, 빈곤, 불평등이 완화되고 자유민주주의가 지배적인 정부 형태가 되고 기존의 자유민주주의가 더 나은 버전이 된다 하더라도 적어도 한 가지 중요한 질문은 여전히 남아 있습니다. "우리가 이렇게 기술적으로 발전된 세상에 살고 있고 공정하고 괜찮은 세상에 살고 있다는 것은 대단하다"고 누군가 반문할 수도 있지만 "인공지능이 모든 일을 하는데 인간은 어떻게 의미를 가질 수 있겠는가?"라고 누군가는 반문할 수 있습니다. 경제적으로 어떻게 살아남을 수 있을까요?"라고 반문할 수도 있습니다.

이 질문이 다른 질문보다 더 어렵다고 생각합니다. 다른 질문에 비해 반드시 더 비관적이라는 뜻은 아닙니다(물론 어려움이 있긴 하지만요). 시간이 지나고 분산된 방식으로만 해결되는 경향이 있는 사회가 어떻게 조직되는지에 대한 거시적인 질문과 관련이 있기 때문에 미리 예측하기가 더 모호하고 어렵다는 뜻입니다. 예를 들어, 과거의 수렵 채집 사회에서는 사냥과 다양한 종류의 사냥 관련 종교 의식이 없으면 삶이 무의미하다고 상상했을 수도 있고, 우리가 잘 먹고 사는 기술 사회에는 목적이 없다고 상상했을 것입니다. 또한 우리 경제가 어떻게 모든 사람을 부양할 수 있는지, 기계화된 사회에서 사람들이 어떤 기능을 유용하게 수행할 수 있는지 이해하지 못했을 수도 있습니다.

그럼에도 불구하고 이 섹션의 간결함이 제가 이러한 문제를 심각하게 받아들이지 않는다는 신호로 받아들여서는 안 되며, 오히려 명확한 답이 부족하다는 신호라는 점을 명심하면서 몇 마디 말씀드릴 필요가 있습니다.

의미에 대한 질문에 대해 저는 단순히 인공지능이 더 잘할 수 있다고 해서 자신이 수행하는 작업이 무의미하다고 생각하는 것은 실수일 가능성이 매우 높다고 생각합니다. 대부분의 사람들은 어떤 일에서든 세계 최고가 아니기 때문에 특별히 신경 쓰지 않는 것 같습니다. 물론 오늘날에도 여전히 비교 우위를 통해 기여할 수 있고, 자신이 창출하는 경제적 가치에서 의미를 얻을 수 있지만, 사람들은 경제적 가치가 없는 활동도 크게 즐기고 있습니다. 저는 비디오 게임, 수영, 바깥 산책, 친구들과 대화하는 데 많은 시간을 보내지만 모두 경제적 가치를 창출하지 않습니다. 비디오 게임을 더 잘하거나 자전거를 더 빨리 타려고 하루를 보낼 수도 있지만, 어딘가에 있는 누군가가 그런 일을 더 잘한다는 것은 저에게는 별로 중요하지 않습니다. 

어쨌든 저는 의미는 경제적 노동이 아니라 인간관계와 관계에서 주로 나온다고 생각합니다. 사람들은 성취감, 심지어 경쟁의식까지도 원하며, 인공지능 이후의 세상에서는 오늘날 사람들이 연구 프로젝트에 착수하거나 할리우드 배우가 되려고 하거나 회사를 설립하는 것과 마찬가지로 복잡한 전략을 가지고 매우 어려운 작업을 시도하는 데 수년을 보내는 것이 완벽하게 가능할 것입니다. (a) 원칙적으로 어딘가에 있는 인공지능이 이 일을 더 잘할 수 있고, (b) 이 일이 더 이상 글로벌 경제에서 경제적으로 보상을 받는 요소가 아니라는 사실은 저에게는 그다지 중요하지 않은 것 같습니다.

사실 저는 의미 부분보다 경제적인 부분이 더 어려워 보입니다. 이 섹션에서 "경제적"이란 대부분 또는 전부의 인간이 충분히 발전된 AI 기반 경제에 의미 있는 기여를 하지 못할 수 있다는 문제를 의미합니다. 이는 섹션 3에서 논의한 불평등, 특히 신기술에 대한 접근성의 불평등이라는 개별적인 문제보다 더 거시적인 문제입니다.

우선, 단기적으로는 비교우위가 인간의 관련성을 계속 유지하고 실제로 생산성을 높일 것이며, 어떤 면에서는 인간 간의 경쟁의 장을 평준화할 수도 있다는 주장에 동의합니다. AI가 특정 업무의 90%만 더 잘할 수 있다면 나머지 10%는 인간의 활용도가 높아져 보상이 증가하고 실제로 AI가 잘하는 것을 보완하고 증폭하는 새로운 인간 일자리가 많이 생겨나 '10%' 가 거의 모든 사람을 계속 고용하도록 확장될 수 있습니다. 사실 AI가 인간보다 100% 더 잘할 수 있지만 일부 작업에서 여전히 비효율적이거나 비용이 많이 드는 경우, 또는 인간과 AI에 투입되는 자원이 의미 있게 다른 경우에는 비교 우위의 논리가 계속 적용됩니다. 인간이 상당 기간 동안 상대적(또는 절대적) 우위를 유지할 가능성이 있는 분야는 물리적 세계입니다. 따라서 저는 인간 경제가 '데이터센터 속 천재들의 나라'에 도달하는 시점이 조금 지나도 계속 의미가 있을 수 있다고 생각합니다.

하지만 장기적으로는 AI가 매우 광범위하고 저렴해져서 더 이상 이런 방식이 적용되지 않을 것이라고 생각합니다. 그 시점에서는 현재의 경제 구조가 더 이상 의미가 없어지고 경제를 어떻게 조직해야 하는지에 대한 광범위한 사회적 논의가 필요하게 될 것입니다.

미친 소리처럼 들릴 수도 있지만, 사실 문명은 과거 수렵 채집에서 농경으로, 농경에서 봉건제, 봉건제에서 산업주의로 이어지는 주요 경제 변화를 성공적으로 극복해 왔습니다. 저는 새롭고 낯선 무언가가 필요할 것이며, 그것은 오늘날 아무도 잘 상상하지 못한 것이라고 생각합니다. 모든 사람에게 대규모의 보편적 기본소득을 지급하는 것처럼 간단할 수도 있지만, 이는 해결책의 일부에 불과할 것이라고 생각합니다. 인공지능 시스템이 인간에게 보상하는 것이 합리적이라고 생각되는 일부 2차 경제(궁극적으로 인간의 가치에서 파생된 일부 판단에 근거)를 기반으로 인간에게 자원(전체 경제 파이가 거대할 것이므로 엄청난 양의 자원)을 제공하는 자본주의 경제가 될 수도 있습니다. 

어쩌면 경제는 우피(Whuffie, 관계와 명성 및 평판에 기반을 둔 신개념 화폐를 일컫는 신조어) 포인트로 운영될 수도 있습니다. 아니면 일반적인 경제 모델에서 예상하지 못한 방식으로 인간이 계속 경제적으로 가치가 있을지도 모릅니다. 이러한 모든 해결책에는 수많은 문제가 발생할 수 있으며, 많은 반복과 실험 없이는 그 해결책이 합리적일지 여부를 알 수 없습니다. 그리고 다른 도전 과제와 마찬가지로, 착취적이거나 디스토피아적인 방향도 분명 존재할 수 있으며 이를 방지해야 한다는 점에서 좋은 결과를 얻기 위해 싸워야 할 것입니다. 이러한 질문에 대해 더 많은 글을 쓸 수 있으며, 나중에 기회가 된다면 그렇게 하고 싶습니다.

신중한 생각(Taking stock)

위의 다양한 주제를 통해 저는 모든 것이 AI와 함께 잘 진행된다면 그럴듯하면서도 지금의 세상보다 훨씬 나은 세상에 대한 비전을 제시하려고 노력했습니다. 이런 세상이 현실적으로 가능할지 모르겠고, 현실이 된다 하더라도 많은 용감하고 헌신적인 사람들의 엄청난 노력과 투쟁 없이는 이루어지지 않을 것입니다. AI 기업을 포함한 모든 사람들이 위험을 예방하고 혜택을 온전히 실현하기 위해 각자의 역할을 다해야 할 것입니다.

하지만 싸워야 할 가치가 있는 세상입니다. 대부분의 질병이 사라지고, 생물학적, 인지적 자유가 늘어나고, 수십억 명의 사람들이 빈곤에서 벗어나 새로운 기술을 공유하고, 자유민주주의와 인권의 르네상스가 열리는 등 이 모든 일이 5~10년에 걸쳐 실제로 일어난다면, 이를 지켜보는 모든 사람들이 그 영향에 놀라게 될 것입니다. 물론 새로운 기술을 통해 개인적으로 혜택을 받는 경험을 말하는 것은 아닙니다. 오랫동안 품어온 이상이 한꺼번에 눈앞에서 실현되는 것을 보는 경험을 말하는 것입니다. 많은 사람들이 말 그대로 눈물을 흘리며 감동할 것이라고 생각합니다.

이 글을 쓰는 내내 저는 흥미로운 긴장감을 느꼈습니다. 어떤 의미에서 이 글에서 제시하는 비전은 매우 급진적이며, 거의 모든 사람이 향후 10년간 일어날 것으로 예상하는 일이 아니며, 많은 사람들에게 터무니없는 환상으로 비춰질 수 있기 때문입니다. 모든 사람이 동의하지 않을 가치와 정치적 선택을 구체화한 것이기 때문에 바람직하지 않다고 생각하는 사람들도 있을 수 있습니다. 그러나 동시에 좋은 세상을 구상하는 다양한 시도가 필연적으로 대략 여기까지 이어질 수밖에 없는 것처럼 눈부시게 명백한 무언가, 즉 과도하게 결정된 무언가가 있습니다.

이언 뱅크스의 ‘게임의 명수(Player of games)’에서 주인공인 주인공은 문화라는 사회의 일원입니다, 라는 사회의 구성원인 주인공은 복잡한 전투 게임에서 경쟁을 통해 리더십이 결정되는 억압적이고 군사주의적인 제국으로 여행합니다. 하지만 이 게임은 플레이어의 전략이 자신의 정치적, 철학적 관점을 반영하는 경향이 있을 정도로 복잡합니다. 주인공은 게임에서 황제를 물리치고 무자비한 경쟁과 적자생존에 기반한 사회가 설계한 게임에서도 자신의 가치(문화의 가치)가 승리 전략이 될 수 있음을 보여줍니다. <스콧 알렉산더의 잘 알려진 게시물에서도 경쟁은 자기 패배적이며 연민과 협력에 기반한 사회로 이끄는 경향이 있다는 동일한 논지를 담고 있습니다. "도덕적 우주의 원호"도 비슷한 개념입니다.

저는 문화의 가치가 명확한 도덕적 힘을 가지고 있고 모두를 같은 편으로 모으는 경향이 있는 수많은 작은 결정의 총합이기 때문에 승리하는 전략이라고 생각합니다. 공정성, 협력, 호기심, 자율성에 대한 인간의 기본적인 직관은 논쟁하기 어렵고, 우리의 더 파괴적인 충동은 종종 그렇지 않은 방식으로 누적됩니다. 질병을 예방할 수 있다면 아이들이 질병으로 죽어서는 안 된다고 주장하기는 쉬우며, 모든 아이들이 동등하게 그 권리를 누릴 자격이 있다고 주장하기는 쉽습니다. 이러한 결과를 달성하기 위해 우리 모두가 힘을 합쳐 지성을 발휘해야 한다고 주장하는 것은 어렵지 않습니다. 사람들이 불필요하게 다른 사람을 공격하거나 다치게 한 것에 대해 처벌을 받아야 한다는 데 이의를 제기하는 사람은 거의 없으며, 처벌이 모든 사람에게 일관되고 체계적으로 이루어져야 한다는 생각으로 나아가는 것은 그리 비약적인 일이 아닙니다. 

사람들이 자신의 삶과 선택에 대해 자율성과 책임감을 가져야 한다는 것도 마찬가지로 직관적입니다. 이러한 단순한 직관을 논리적 결론으로 가져가면 결국 법치주의, 민주주의, 계몽주의적 가치로 이어집니다. 필연적이지는 않더라도 적어도 통계적 경향으로 볼 때 인류는 이미 이 방향으로 나아가고 있었습니다. AI는 단지 논리를 더 명확하게 하고 목적지를 더 빨리 도달할 수 있는 기회를 제공할 뿐입니다.

그럼에도 불구하고 그것은 초월적인 아름다움의 존재입니다. 우리는 그것을 실현하는 데 작은 역할을 할 수 있는 기회가 있습니다.