도널드 트럼프 미국 대통령이 인공지능 업계 주요 인사들을 만난 뒤, 미국 정부가 ‘인공지능’ 대신 ‘초지능’이라는 용어를 쓰도록 하겠다고 발표했다. 업계 경영진은 ‘프런티어 책임 공동 약속’에 서명했지만, 이 약속은 자발적이고 법적 구속력이 없는 것으로 전해졌다. 트럼프 대통령은 약속을 ‘도덕적으로 구속력 있다’고 표현했다.

트럼프 대통령은 주말에는 ‘새 초지능군’의 출범도 발표했다. 따라서 이번 움직임에는 용어 변경과 업계 선언뿐 아니라, 정부 조직을 통한 대응 구상도 포함돼 있다. 다만 이 조치들이 AI 안전을 둘러싼 실제 정책과 기업의 행동을 얼마나 바꿀지는 아직 드러나지 않았다.

배경과 맥락

앤서니 하는 대통령 행정명령에 따라 미국 정부의 공식 대표들은 ‘인공지능’이 아니라 ‘초지능’이라고 말해야 한다고 설명했다. 이는 단순한 표현 권고가 아니라 행정명령에 담긴 공식 용어 변경으로 소개됐다. 다만 용어를 바꾸는 것과 기술의 위험을 줄이는 정책을 바꾸는 것은 별개의 문제다.

회동에서는 업계 경영진이 ‘프런티어 책임 공동 약속’에 서명했다. 숀 오케인은 약속이 자발적이며 법적 구속력이 없다고 지적했고, 서명된 문서에 ‘United States’의 철자가 틀린 부분도 있었다고 말했다. 그는 이런 점을 들어 약속이 실제로 얼마나 큰 의미를 가질지 회의적으로 봤다.

트럼프 대통령이 발표한 새 초지능군은 국가정보국장 제이 클레이턴이 이끄는다고 전해졌다. 별도 보도에 따르면 클레이턴이 의장을 맡고, 연방거래위원회 위원장 앤드루 퍼거슨, 전쟁부 연구·공학 담당 차관 에밀 마이클, 인사관리처장 스콧 쿠퍼가 부의장을 맡을 예정이다. 이 조직은 보도에 따르면 120일 안에 AI의 위험과 기회를 다룬 보고서를 작성하고, 초지능이 가능하게 하는 위협에 대응하는 계획을 마련하되 과도한 규제로 혁신과 경쟁을 막지 않도록 한다는 구상을 담고 있다.

이 소식이 뜻하는 것

이번 회동의 의미를 재브랜딩(이름과 이미지를 새롭게 꾸미는 일)으로 본 해석도 나왔다. 커스틴 코로섹은 ‘AI는 무섭고 일자리를 빼앗을 수 있지만 초지능은 그렇지 않다’는 메시지가 있었다고 말했다. 이는 그녀가 회동에서 읽어낸 메시지이지, 위험이나 고용 영향이 실제로 달라졌다는 확인은 아니다.

회동에는 마크 저커버그, 제프 베이조스, 일론 머스크와 앤트로픽 최고경영자 다리오 아모데이가 참석했다고 코로섹은 설명했다. 아모데이는 오후 10시 만찬에 초대된 뒤 며칠 후 업계 인사들이 참석한 오찬에도 자리했다. 이 만남은 정부와 앤트로픽 사이의 접점이 생겼음을 보여주지만, 관계가 풀렸다고 단정하기는 어렵다.

오케인은 국방부가 여전히 앤트로픽을 부정적으로 보고 국가안보 위험이라고 주장하며, 에밀 마이클이 엑스에서 앤트로픽을 비판한다고 말했다. 하는 백악관 안에서도 앤트로픽 기술 활용에 찬성하는 인사와 반대하는 인사가 있고, 재무장관은 호의적인 반면 국방부는 불만을 보였다고 설명했다. 즉, 회동에 참석한 사실만으로 정부 내부의 이견이나 기술 활용 조건이 정리됐다고 볼 근거는 없다.

약속은 법적 구속력이 없고, 초지능이라는 명칭을 쓰도록 한 조치가 안전 기준이나 기업의 의무를 바꿨는지는 확인되지 않았다.

예를 들어 어떤 기업이 약속에 서명했더라도, 구체적인 조항과 이행 확인 방식이 정해져 있지 않다면 서명만으로 안전 조치가 실행됐는지 판단하기 어렵다. 그런 점에서 독자가 주목할 것은 새 용어 자체보다 약속의 내용, 이행 여부, 그리고 초지능군이 내놓을 보고서다.

관련 제도·지원 정보

이번에 제시된 조치는 기업이 의무적으로 따라야 하는 안전 규정이라기보다, 자발적 공동 약속과 정부 조직의 보고·대응 구상으로 전해졌다. 대통령 행정명령은 미국 정부 공식 대표가 ‘초지능’이라는 용어를 쓰도록 한 것으로 설명됐다. 공동 약속의 구체적 조항과 이행 확인 방식은 공개된 근거에서 확인되지 않는다.

새 초지능군은 보도에 따르면 120일 안에 AI의 위험과 기회에 관한 보고서를 작성할 예정이다. 조직의 권한과 임무가 어디까지인지, 보고서가 어떤 조치로 이어질지는 현재 제시된 내용만으로 알 수 없다.

확인된 사실과 아직 알 수 없는 것

확인된 사실

  • 트럼프 대통령은 정부가 ‘인공지능’ 대신 ‘초지능’이라는 용어를 쓰도록 하는 행정명령을 발표했다.
  • 업계 경영진은 ‘프런티어 책임 공동 약속’에 서명했으며, 약속은 자발적이고 법적 구속력이 없는 것으로 전해졌다.
  • 트럼프 대통령은 이를 ‘도덕적으로 구속력 있다’고 표현했다.
  • 트럼프 대통령은 새 초지능군을 발표했고, 보도에 따르면 이 조직은 120일 안에 AI 위험·기회 보고서를 작성할 예정이다.

아직 알 수 없는 것

  • 공동 약속에 서명한 기업과 경영진의 전체 명단은 무엇인가?
  • 약속의 구체적인 조항과 이행 여부를 확인하는 방식은 무엇인가?
  • 초지능군은 어떤 권한과 임무를 갖게 되는가?
  • 용어 변경과 공동 약속이 실제 AI 안전 정책이나 기업의 행동을 바꾸는가?

독자가 확인할 것

  • 공동 약속의 전문과 서명자 명단이 공개되는지, 공개된다면 실제 의무와 이행 확인 절차가 포함되는지 살펴볼 필요가 있다.
  • 보도에 언급된 120일 보고서가 공개되는지, 위험 대응과 규제에 어떤 내용을 담는지 확인할 수 있다.
  • 초지능군의 권한·임무가 구체화되는지, 특히 기술 활용과 안전 대응의 책임 주체가 명확해지는지 지켜볼 만하다.

참고 자료