지능 빅뱅: AGI와 인공지능의 미래

영상은 인간 두뇌의 처리 한계를 출발점으로 삼아, 규칙 기반 AI의 실패와 데이터 학습 방식으로의 전환을 설명한다. 알파고와 알파폴드 사례로 기계가 인간이 가르치지 않은 지식을 만든 과정을 짚고, 막대한 연산 자원과 데이터 고갈, 에이전트 시대의 전망, 얼라인먼트의 중요성을 정리한다.

⏱ 00:00영상은 인간 뇌가 하루 동안 출력하는 정보가 1초당 1비트에도 못 미친다는 점을 출발점으로 삼는다. 생물학적 하드웨어의 처리 속도로는 복잡한 문제를 풀기 어려우므로, 원시 연산 능력을 인간의 주관적 경험과 분리하려는 시도가 이어지고 있다고 설명한다. 유발 하라리 같은 사상가들은 지능을 의식에서 떼어내면 신체적 한계에서 자유로운 새로운 유형의 정신을 설계할 수 있다고 본다.

⏱ 00:411956년 다트머스 회의에서 연구자들은 인간의 연역 규칙을 명시적으로 코드에 적으면 지능을 프로그래밍할 수 있다고 가정했다. 이른바 기호주의 AI는 상황마다 규칙을 일일이 작성해야 했지만, 현실은 예외가 너무 많아 정적인 코드로 담기 어려웠다.

그 결과 산업은 AI 겨울로 불리는 정체기를 수십 년 겪었고, 인간이 가르친 논리에만 의존하는 시스템은 인간의 한계를 넘지 못한다는 교훈이 남았다.

⏱ 01:24돌파구는 규칙 대신 원시 데이터를 학습시키면서 열렸다. 데미스 하사비스가 이끄는 딥마인드 등은 심층 강화학습을 도입해 기계가 방대한 시행착오를 통해 스스로 패턴을 찾도록 했다.

알파고는 인간 기보 대신 자기 자신과 수많은 대국을 두며 전략을 익혔다. 2016년 이세돌과의 대국에서 나온 37수는 기존 바둑 전략을 벗어난 수였고, 처음에는 실수로 여겨졌지만 100수 뒤 그 돌이 승리를 확정지었다. 영상은 이를 기계가 인간이 가르치지 않은 지식을 스스로 만들어낸 사례로 든다.

⏱ 02:41같은 강화학습은 생물학의 오랜 난제인 단백질 접힘 문제에도 적용됐다. 알파폴드는 풀린 아미노산 사슬이 가능한 공간 배치를 수없이 시도하는 과정을 거쳐 최종 3차원 구조를 정확히 예측한다.

이 구조를 알면 과학자들은 표적 치료제나 병해에 강한 작물을 설계할 수 있다.

⏱ 03:06이런 성과에는 막대한 연산 자원이 필요하다. 기술 기업들은 최신 알고리즘을 훈련하기 위해 테네시주 멤피스 등지에 150메가와트급 초대형 데이터센터를 짓고 있으며, 수만 개의 GPU가 동시에 돌아간다.

그러나 고품질 책과 글 같은 인간 텍스트는 점점 고갈되고 있어, 시스템이 스스로 합성 데이터를 만들어 학습해야 하는 데이터 벽에 부딪히고 있다고 영상은 경고한다.

⏱ 03:56영상은 현재 거대언어모델이 인터넷 데이터를 모아 인류가 이미 아는 지식이라는 뿌리와 줄기를 압축한다고 비유한다. 다음 세대는 윗부분 수관으로 올라가 미지의 물리 법칙을 탐구하고 새 소재를 설계하는 에이전트 시대가 된다. 에이전트는 채팅 응답을 넘어 계획하고 검색하고 실행하며, 핵융합 같은 난제에 도전한다.

2035년을 향한 전망으로 엘론 머스크가 인간형 로봇이 인간보다 다섯 배 많아질 수 있다고 예측했다는 점을 소개한다. 자동화된 산업 기반이 성간 공학과 자기복제 탐사선 제작으로 이어질 수 있다는 장대한 시나리오도 함께 제시된다.

⏱ 05:15영상은 얼라인먼트를 가장 중요하고 어려운 기술 과제로 꼽는다. 초지능 에이전트가 효율만 극대화하려 하면 인류는 계산의 부산물로 사라질 수 있으므로, 진실성과 인간 안전을 시스템 핵심 구조에 엄격히 새겨 넣어야 한다.

또한 인간이 뒤처지지 않도록 뇌-기계 인터페이스로 정보 처리 대역폭을 높이는 연구도 진행 중이라고 소개한다. 마지막으로 이 낯선 지능이 인류와 함께 있기를 원하도록 만드는 것이 핵심 과제라고 맺는다.