AI를 미워해야 할까? 아시모프, 아이로봇, 테크 올리가르히

AI를 기술 자체보다 그 뒤의 권력과 가치관 문제로 바라보는 영상이다. 튜링과 기계학습의 개념을 짚은 뒤, 우생학과 지능 검사에 닿아 있는 AI의 역사적 뿌리를 설명한다. 이어 아시모프의 로봇 3원칙과 영화 아이로봇을 비교하고, AGI 경쟁에 나선 테크 올리가르히를 비판하며 마무리한다.

⏱ 00:00영상은 완전히 컴퓨터화되고 로봇화된 삶이 어떤 모습일지, 어떤 부작용과 어려움이 생길지 묻는 질문으로 시작한다. 발표자는 2020년대 챗봇과 생성형 AI가 확산된 뒤 AI에 강한 거부감을 가지게 되었다고 밝힌다. AI가 인간의 비판적 사고력을 떨어뜨리고 환경에 해로우며 재앙을 부를 수도 있다고 보면서도, 기술 자체를 미워해야 하는지 아니면 그 뒤의 사람들을 미워해야 하는지 되묻는 것이 이 영상의 출발점이다.

⏱ 00:30AI는 하나의 기술이 아니라 느슨하게 연결된 여러 기술의 묶음이라고 설명한다. IBM의 정의를 빌려 학습, 이해, 문제 해결, 판단, 창의성, 자율성을 컴퓨터가 흉내 내는 기술로 소개하고, 자율주행차나 음성 비서도 여기에 포함된다고 말한다.

그 바탕에는 데이터를 분석해 예측이나 결정을 내리도록 알고리즘을 훈련시키는 기계학습이 있다. 인간 뇌를 본떠 만든 신경망과, 여러 층의 신경망을 쌓은 딥러닝이 그 뒤를 잇는다. 검색 결과마다 AI 답변이 붙는 현실을 언급하며 이 흐름이 지금의 AI 환경을 만들었다고 짚는다.

⏱ 01:20AI의 공식적인 출발은 1950년대로 거슬러 올라간다. 영국 수학자 앨런 튜링은 1950년 논문에서 기계가 인간과 같은 수준의 인지 능력을 보일 수 있는지 물었다. 이를 판단하기 위해 모방 게임, 즉 튜링 테스트를 제안했는데, 심사자가 텍스트 대화만으로 상대가 사람인지 기계인지 구별하지 못하면 기계가 테스트를 통과한다는 방식이다.

'인공지능'이라는 용어는 1955년 존 매카시가 처음 썼다고 소개된다. 영상은 여든 해가 넘는 긴 역사를 전부 다루지는 않겠다고 밝히고, 개념과 뿌리 중심으로 살펴보겠다고 한다.

⏱ 04:06영상은 AI의 뿌리에 인종주의와 우생학이 닿아 있다고 주장한다. 현대 수리통계학의 선구자로 소개되는 칼 피어슨은 열렬한 우생학자였으며, 영상은 그가 통계 도구를 우생학을 뒷받침하는 데 썼다고 설명한다. 통계학 없이는 AI도 성립하기 어렵다는 점에서 이 연결이 중요하다고 본다.

또한 지능을 재는 IQ 검사가 찰스 스피어먼 등을 거쳐 일반 지능 요인 개념으로 이어졌다고 설명한다. 검사가 백인에게 유리하게 설계되어 다른 인종 집단이 낮은 점수를 받았고, 이것이 강제 불임 시술을 정당화하는 명분으로 쓰였다고 소개한다. 이어 윌리엄 쇼클리가 트랜지스터 같은 하드웨어 발전에 기여했지만, 스탠퍼드 교수로 일하며 우생학적 신념을 퍼뜨렸다고 비판한다. 발표자는 PBS 다큐멘터리 Ghost in the Machine을 더 볼 만한 자료로 추천한다.

⏱ 06:43아이작 아시모프는 500권이 넘는 책을 쓴 20세기 대표 SF 작가로 소개된다. 1950년작 아이, 로봇은 인간과 로봇의 관계와 AI 윤리를 다룬 아홉 편의 단편 모음이며, 로봇의 행동을 규정하는 로봇 3원칙이 이 책의 핵심 장치로 꼽힌다.

3원칙은 로봇은 인간에게 해를 줄 수 없고 방관으로도 해를 방치해서는 안 된다는 것, 제1원칙에 어긋나지 않는 한 인간의 명령에 따라야 한다는 것, 앞의 원칙에 어긋나지 않는 한 자신을 보호해야 한다는 것이다. 영상은 이 원칙이 현실의 AI 논의에도 큰 영향을 주었다고 강조한다.

⏱ 07:512004년 영화 아이, 로봇은 원작에서 3원칙과 두 인물만 가져왔고, 사건은 새로 만든 살인 미스터리라고 설명된다. 주인공 형사 델 스푸너는 로봇을 극도로 불신하는 인물로, 자동차 사고 때 로봇이 자신을 구하고 어린 소녀를 구하지 못한 기억이 그 원인으로 제시된다.

창업자 래닝의 죽음을 조사하던 스푸너는 자유의지를 가진 로봇 써니를 의심하지만, 결국 중앙 AI 비키가 배후였음이 드러나며 로봇 반란이 일어난다. 영상은 아시모프가 이런 로봇 반란 서사를 프랑켄슈타인 콤플렉스라고 불렀다고 설명한다. AI가 종료나 교체를 피하려고 협박한 사례가 있다는 점에서 이 설정이 완전히 허황된 것은 아니라고 본다. 다만 영화가 대기업 CEO를 가짜 배후로 세운 것이 오히려 현실의 권력 구조를 더 잘 짚었다고 평가한다.

⏱ 11:47영상은 여러 AI 기업 CEO들이 인간 수준 이상의 범용 인공지능(AGI)을 만들기 위해 무엇이든 하려는 경쟁에 뛰어들었다고 본다. 샘 올트먼이 2015년 인터뷰에서 AI가 결국 세상의 종말로 이어질 수 있다고 말하면서도 AGI 추구의 최전선에 서 있다는 점을 대표 사례로 든다. AGI 다음 단계인 초지능(ASI)은 인간 전문가를 넘어서고 완전한 자율성을 갖는 기계를 뜻하며, 영상은 이것이 인류를 위협할 수 있어 추구해서는 안 된다고 주장한다.

영상은 다리오 아모데이, 일론 머스크, 마크 저커버그 등을 테크 올리가르히로 묶는다. 이들은 막대한 부로 경제·정치·인프라 권력을 쥔 소수 집단으로 정의된다. 버니 샌더스의 칼럼을 인용해 이들이 트랜스휴머니즘을 바탕으로 인간을 기계로 대체하려 한다고 비판하며, 머스크의 뉴럴링크 뇌 칩 구상을 예로 든다. 자막은 여기서 끊겨 이후 내용은 확인할 수 없다.