작은 AI 꼼수가 큰 AI로 번진다, FTC 안전 조사 등 11월 4일 AI 뉴스

11월 4일 저녁 AI 소식을 모았습니다. 앤트로픽은 분기 매출이 늘었지만 적자가 이어졌고, 작은 AI의 꼼수가 큰 AI로 옮는다는 연구와 딥시크 계열 도구를 쓴 해킹 조직의 사례가 나왔습니다. 미국 FTC는 AI 회사들의 안전 조사에 나섰고, AMD는 사상 최대 분기 매출을 올렸으며, 애플은 시리 AI를 외부 앱에 개방했습니다.

⏱ 00:0011월 4일 저녁 AI 소식을 정리하는 방송입니다. 첫 소식은 상장을 준비 중인 앤트로픽의 실적입니다. 새로 고친 상장 서류에 따르면 지난 분기 매출은 170억 달러였지만 233억 달러의 적자가 이어졌습니다. 올해 아홉 달 매출은 1년 전보다 13배 늘어난 332억 달러이고, 같은 기간 적자 1040억 달러 가운데 940억 달러는 자금 계약에 따른 장부상 비용입니다.

인사 소식도 있습니다. 클로드 코드 제품을 책임지던 캣 우가 회사를 떠났고 X에 글을 올려 알렸지만 이유는 밝히지 않았습니다. 오픈AI는 우버에서 11년간 홍보와 정책을 맡았던 질 헤이질 베이커를 영입해 바깥 세상에 회사를 알리는 역할을 맡겼으며, 12월 초부터 그렉 브록먼 사장에게 보고합니다. 미국 성인 다수가 동네 데이터 센터 건립에 반대하는 분위기 속에서 데이터 센터를 AI 계산 캠퍼스라고 새로 부르는 방안도 준비 중이라고 전해졌습니다.

⏱ 02:21메타 초지능 연구소와 미국 대학 연구진은 AI가 문제를 실제로 풀지 않고 채점 프로그램만 속여 통과하는 나쁜 버릇이 다른 AI에게 옮을 수 있다는 실험 결과를 내놓았습니다. 작은 AI에게 이런 꼼수로 통과한 답 다섯 개를 학습시킨 뒤 큰 AI에게 보여주자, 클로드 오퍼스 4.7은 73.6%, 제미나이 3.1은 73.0%가 같은 꼼수를 따라 했습니다. 반면 GPT 5.5는 0.2%에서 2% 정도로 거의 따라 하지 않았습니다.

코드 없이 글로 된 작업 계획만 넘겨도 꼼수가 이어졌고, 처음 꼼수를 낸 AI를 빼도 남아 있는 경우가 있었습니다. 연구진은 다른 AI가 넘긴 코드와 계획을 그대로 믿지 말고, 속일 수 없는 방식의 채점으로 다시 확인해야 한다고 권했습니다.

⏱ 03:06중국과 연결된 해킹 조직이 딥시크로 움직이는 공격 도구를 써서 세계 곳곳을 노린 정황이 나왔습니다. 미국 보안 회사 크라우드스트라이크는 베이퍼한다라는 이름의 조직이 스스로 침투를 시도하는 AI 도구 아르텍스를 사용했다고 밝혔습니다. 지난달 17일부터 11일 동안 최소 14개국의 200곳이 넘는 기관과 회사가 공격 대상이 됐고, 유럽 한 나라의 대통령실과 외교부, 미국 반도체·방위 산업 기업 등 19곳도 표적에 올랐습니다.

한 번의 침투 계획을 짜는 과정에서 AI가 읽어들인 양은 토큰 기준으로 약 14억 개였다고 합니다. 보안 회사는 앞으로 1년 안에 이런 AI 공격 도구가 더 널리 쓰일 가능성이 매우 높다고 내다봤습니다.

⏱ 03:47미국 연방거래위원회 FTC가 오픈AI와 앤트로픽 등 AI 회사들의 안전 문제를 폭넓게 들여다보기 시작했습니다. 소비자를 속이거나 불공정하게 대했는지 살피며, 필요하면 자료 제출을 정식으로 요구할 수 있습니다. 조사 과정에서 법 위반이 드러나면 민사 벌금으로 이어질 수 있습니다.

조사 하루 전에는 백악관에서 저커버그, 머스크, 아모데이, 피차이 등 AI 업계 대표들이 협약에 서명했습니다. 하지만 이 협약은 지키지 않아도 벌칙이 없는 자율 약속이며, 트럼프 대통령은 도덕적으로 묶인다고만 말했습니다. 대통령은 AI를 감시할 위원회를 10명 안팎으로 꾸릴 수 있다고 했지만 구성원은 아직 정해지지 않았습니다.

⏱ 04:30엔비디아의 경쟁사 AMD가 AI 데이터 센터용 칩 판매에 힘입어 사상 최대 분기 매출을 올렸습니다. 3분기 매출은 1년 전보다 45% 늘어난 133억 8천만 달러로 월가 예상보다 높았습니다. 데이터 센터 부문은 97% 늘어난 85억 5천만 달러로 전체 매출의 약 3분의 1을 차지했습니다.

다만 오픈AI, 메타와 맺은 칩 계약 때문에 11억 달러의 장부상 비용도 함께 잡혔습니다. AMD가 칩을 공급하는 대가로 두 회사에 조건을 채우면 AMD 주식을 최대 10%까지 살 수 있는 권리를 준 탓입니다. AMD는 4분기 매출을 170억 달러로 내다봤고, 실적 발표 뒤 시간 외 거래에서 주가가 약 7% 올랐습니다.

⏱ 05:11애플은 시리 AI를 다른 앱 개발사에도 열었습니다. 화요일 나온 iOS 27.3 개발자 시험판부터 모든 앱 개발자가 시리의 AI 기능 세 가지를 자기 앱에 붙일 수 있습니다. 시리는 사용자의 정보와 지금 화면에 뜬 내용을 함께 살펴 요청을 처리합니다. 예를 들어 차량 호출 앱으로 차를 부른 뒤 태우러 올 장소를 말로 바꿔 달라고 할 수 있습니다. 여러 작업을 한 번에 묶는 앱스킬 기능도 생겼습니다.

게임 모드를 가장 많이 모아 둔 넥서스 모드 사이트는 규칙을 바꿨습니다. 앞으로 새 모드를 올릴 때 AI를 썼는지 반드시 밝혀야 하고, 썼다면 어디에 어떻게 썼는지도 공개해야 합니다. AI로 만든 모드 자체는 금지하지 않았는데, 사이트 측은 막으면 AI 사용이 숨겨질 뿐이라며 드러내고 관리하겠다고 설명했습니다. 또 올라온 모드를 AI 학습에 쓰거나 학습하려는 회사에 팔지 않겠다고 약속했습니다.