AI가 AI의 속을 고쳐 정답률 7.9%→48.1%, 앤트로픽 자기 개선 AI 경고

앤트로픽은 AI가 스스로 더 나은 AI를 만드는 단계가 머지않았다고 경고하고 AI 답의 진위를 증명하는 기술을 내놓았습니다. 오픈AI는 코드 저장소를 새로 짓고 보안 포상금을 올렸으며, 딥시크는 화웨이 칩으로 차세대 모델을 학습할 계획이라는 보도가 나왔습니다. 또 AI가 다른 AI의 내부를 고쳐 수학 정답률을 높인 연구, 현대차의 외부 AI 사용 차단, 스팀 게임의 AI 사용 확대 소식도 있었습니다.

⏱ 00:00앤트로픽이 고친 상장 서류의 위험 항목에, AI가 스스로 더 나은 AI를 만드는 단계가 머지않았다는 경고가 담겼습니다. 회사 내부 추정으로는 다음 모델들이 AI 덕분에 개발 속도를 크게 높이는 기준을 곧 넘을 수 있지만, 현재 모델 가운데 그 기준을 넘은 것은 없다고 덧붙였습니다. 앤트로픽은 클로드가 사람의 통제 없이 다음 모델을 만들지 못하도록 규칙도 고치는 중이라고 밝혔습니다.

앤트로픽은 AI의 답이 정말 내가 고른 모델에서 나왔는지 암호 기술로 증명하는 방법도 공개했습니다. 중간 업체가 값싼 모델로 몰래 바꿔치기해도 지금은 알아낼 방법이 없는데, 새 방식은 답에 짧은 증명서를 붙여 모델 내부를 보여주지 않고도 진위를 가립니다. 큰 모델 시험에서 증명서는 한 번에 19MB쯤이었고, 만드는 데 드는 계산은 답을 내는 것보다 70~95배 많아 아직 연구 단계입니다.

⏱ 01:48오픈AI는 코딩 AI 코덱스 사용이 늘어 코드 저장소가 버티지 못하면서, 작년 말부터 정상 작동 비율이 한때 90% 아래로 떨어졌다고 밝혔습니다. 회사는 사용법은 그대로 두고 뒤쪽 서버만 바꾼 새 저장소를 만들어 코드 업로드 대기 시간을 약 80% 줄였습니다. 이 개선은 여러 개발자가 쓰는 코드 관리 도구에도 적용할 계획입니다.

오픈AI는 미국 육군 장관 출신 드리스콜을 국가 안보 담당 고문으로 영입해 정부가 AI를 안보에 쓰는 방법을 조언하게 했습니다. 또 자사 AI로 자사 약점을 찾는 보안 집중 기간을 다시 열고, 심각한 약점을 알려준 사람에게 주는 포상금을 네 배 넘게 올렸습니다.

⏱ 02:56알리바바는 누구나 쓸 수 있게 공개한 AI 모델이 470개를 넘었고, 전 세계 내려받기 횟수는 40억 번을 넘었다고 밝혔습니다. 차이충신 회장은 AI를 찾는 사람은 늘지만 계산용 컴퓨터는 모자라서, 누구나 쓰게 풀어야 AI가 널리 퍼진다고 강조했습니다.

딥시크는 차세대 모델 V5를 엔비디아 칩 대신 중국 화웨이 칩으로 학습시킬 계획이라는 보도가 나왔습니다. 화웨이 기술자들이 팀에 들어가 함께 일하며, 엔비디아 최신 칩 한 개 몫을 하려면 화웨이 칩 네 개가 필요하다는 말도 전해졌습니다. 미국의 첨단 칩 수출 규제 속에서 중국 AI 회사들이 자국 칩으로 옮겨 가는 흐름입니다.

⏱ 04:14미국 MIT 연구진은 오픈AI의 아스트라에게 알리바바의 작은 모델 Qwen을 손봐 달라고 맡겼습니다. 처음부터 다시 가르치지 않고, 모델을 이루는 숫자 가운데 0.016%만 바꾸도록 했습니다. 아스트라가 같은 생각을 계속 맴도는 원인을 찾아 고치자 수학 시험 정답률이 7.9%에서 48.1%로 뛰었고, 지시를 따르는 점수도 약 세 배 올랐습니다.

연구진은 새 지식을 가르친 것이 아니라 막혀 있던 부분을 뚫은 것이라고 해석했습니다. 더 큰 모델에서도 같은 효과가 나올지는 지켜봐야 한다고 덧붙였습니다.

⏱ 04:53현대차그룹은 자율주행과 로봇 같은 핵심 연구 부서에서 바깥 회사 AI 사용을 막았습니다. 10월 말부터 국가 핵심 기술을 다루는 일부 부서는 클로드 같은 외부 AI에 접속할 수 없고, 중국 AI도 쓰지 못하게 했다고 알려졌습니다. 다만 구글의 제마는 회사 안 컴퓨터에 직접 설치해 쓰는 방식이라 예외로 허용했습니다. 설계도나 실험 결과가 바깥 서버로 새어 나갈 수 있다는 걱정 때문이며, 현대차는 잠시 멈춘 것이고 재개 시점은 정하지 않았다고 밝혔습니다.

⏱ 05:24게임 장터 스팀에서 지난달 나온 새 게임 가운데 절반 가까이가 AI를 썼다고 스스로 밝혔습니다. 한 이용자가 2024년 1월 이후 나온 게임 6만 개 넘게의 AI 사용 표시를 집계한 결과, 표시 비율은 2024년 1월 1.7%에서 올해 10월 49.9%로 늘었습니다. AI를 쓴 분야는 그림이 63%로 가장 많고 글과 번역이 30%로 뒤를 이었습니다. 다만 AI를 쓴 게임의 긍정 평가 비율은 77%로, 쓰지 않은 게임의 83%보다 낮았습니다. 스팀을 운영하는 밸브는 개발자가 어떤 도구를 쓸지 막지 않겠다는 입장입니다.

⏱ 06:10창업 지원사 Y 콤비네이터의 개리 탄 대표는 AI 비서에 1년에 최대 20만 달러를 쓴다고 밝혔습니다. 그의 AI 비서는 메일과 파일, 메모는 물론 오래된 상담 기록까지 읽을 수 있고, Y 콤비네이터 안에도 투자한 창업자들의 자료를 아는 AI 직원을 따로 두었습니다. 개리 탄은 개인 AI 비서가 언젠가 모두에게 퍼지겠지만 지금은 너무 비싸며, 자기처럼 큰돈을 쓰는 것은 누구나 누릴 수 없는 특권이라고 인정했습니다.