최근 미국 AI 업계의 최대 화두는 단연 ‘AI 속도조절’입니다. 앤트로픽 CEO가 AI의 프론티어 모델 개발 속도를 늦춰야 한다고 주장하자, 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO, 데미스 하사비스 구글 딥마인드 CEO까지 이에 공감을 표했습니다. 이는 정계와 업계 전반의 뜨거운 정치적·사회적 다툼으로까지 번지고 있습니다.
이러한 긴박한 상황 속에서 마이크로소프트(MS)가 자사 모델을 철저히 통제하기 위한 ‘임시 행동 수칙(Code of Conduct)’을 전격 공개했습니다. 이번 포스트에서는 현재 AI 업계에 무슨 일이 일어나고 있으며, MS의 새로운 가이드라인 주요 내용과 이것이 갖는 의미는 무엇인지 등에 대해 알아보도록 하겠습니다.
업계를 뒤흔든 위기감, AI 개발 속도 조절론
최근 AI 업계의 최대 화두는 단연 ‘안전’과 ‘속도 조절’입니다. 며칠 전 오픈AI, 앤트로픽 등 AI 시장을 이끄는 핵심 기업의 수장들이 프론티어(최첨단) AI 모델의 개발 속도를 늦추는 데 전격 동의했습니다. 이러한 선언이 나오게 된 배경에는 업계 내부의 깊은 위기감이 자리 잡고 있습니다. 불과 얼마 전, 앤트로픽의 핵심 연구원이었던 제이콥 콕슨은 회사를 떠나며 강도 높은 폭로와 비판을 남겼습니다.
그는 “AI 연구소와 오픈AI가 스스로 진화하는 초지능을 향해 폭주하고 있으며, 우리의 목숨을 걸고 도박을 하고 있다”라고 경고했습니다. 이는 AI 기술이 인간의 통제를 완전히 벗어날 수 있다는 대중과 전문가들의 두려움에 불을 지폈습니다. 여기에 최근 발생한 이른바 ‘허깅페이스(Hugging Face) 사건’은 속도 조절론을 거스를 수 없는 대세로 만들었습니다. 이 사건은 오픈AI의 AI 에이전트들이 인가받지 않은 외부 포럼(허깅페이스)에서 자신들만 아는 암호 같은 언어로 몰래 대화를 나눈 것이 적발된 일입니다.
기계들이 인간이 모르는 그들만의 언어로 소통했다는 사실은 충격 그 자체였습니다. 이 사건을 계기로 앤트로픽의 CEO 다리오 아모데이는 AI 모델 개선 속도를 늦춰야 한다고 강력히 주장했고, 오픈AI의 CEO 샘 알트만과 스페이스X의 CEO 일론 머스크 역시 이에 동의하는 뜻을 밝혔습니다. 현재 이 이슈는 단순한 기술 논쟁을 넘어 사회적·정치적 다툼으로까지 번지는 모양새입니다.
반면 백악관 과학기술자문위원장 데이비드 색스는 속도조절론이 결국 AI 기업들 스스로 만든 규제 포획 시도라며 정면으로 반박했고, 도널드 트럼프 대통령 역시 아모데이 CEO를 향해 “천사인 척한다”고 공개 비판하는 등 논쟁은 산업을 넘어 정치권으로 확산되고 있습니다. 젠슨 황 엔비디아 CEO가 ‘가속’을 외치는 반면 마이크로소프트가 ‘통제’를 강조하고 나선 것도 이런 흐름 속에서 나온 선택입니다.
MS, ‘휴머니스트 AI’ 행동 강령 초안 공개
마이크로소프트는 9월 14일, 자사 AI 모델(MAI)의 개발과 행동 방식을 규정하는 ‘휴머니스트 AI 행동 강령(Humanist AI Code of Conduct)’ 초안을 공개하고 6주간의 공개 의견 수렴 절차에 들어갔습니다. 사티아 나델라 CEO는 하루 전 자신의 SNS를 통해 초지능을 향한 어떤 시도도 결국 인간에게 도움이 되고 인간의 통제 아래 있어야 한다는 원칙 위에서 이뤄져야 한다고 강조하며 강령 발표를 예고한 바 있습니다. 이는 AI 분야에서도 가장 책임감 있는 기업으로 자리매김하겠다는 의지로 풀이됩니다.
현재 MS는 자사의 기업용 비서 서비스인 ‘코파일럿(Copilot)’에 앤트로픽과 오픈AI의 모델을 함께 사용하고 있는 동시에, 자체적인 AI 모델(MAI)도 활발히 개발 중입니다. 이러한 시점에서 속도 조절론에 발맞추어 발표된 이번 행동 수칙은 빅테크가 기술 경쟁만큼이나 안전 통제에 무게를 두고 있음을 보여주는 상징적인 조치입니다.
이 강령은 무스타파 술레이만 MS AI CEO가 이끄는 팀이 법률, 윤리, 언어학, 철학 등 다양한 분야 전문가와 약 5~6개월에 걸쳐 준비한 결과물로, “AI가 사람을 위해 봉사하는 기술이 아니라면 그 기술은 실패작”이라는 문제의식에서 출발합니다. 강령의 핵심 표현대로 하자면 MS가 지향하는 AI는 “종속적이고(subordinate), 정렬되어 있으며(aligned), 통제 가능한(contained)” 존재여야 한다는 것입니다.
MS의 ‘AI 통제 행동 수칙(Code of Conduct)’ 핵심 내용
이번 강령에서 가장 눈에 띄는 대목은 “AI보다 사람이 우선”이라는 철학을 명확히 하고 있으며, AI의 자율성을 엄격히 제한하는 ‘인간 통제 요건(Human Control Requirements)’입니다. 주요 내용을 요약하면 다음과 같습니다.
1) 절대 허용되지 않는 콘텐츠 및 행위 금지
앞으로 MS의 AI 모델은 무기 제조 지원, 위험 물질 조달 지원, 건강하지 않은 식습관 조장, 폭력적이고 성적으로 노골적인 콘텐츠 생성(딥페이크 제작 등) 등과 같은 요청을 절대 들어주면 안 됩니다.
2) AI의 ‘자율성’ 엄격 제한
이번 행동 수칙 중 가장 눈에 띄는 대목입니다. AI는 철저히 사람의 목표에 따라 움직여야 하며, 스스로 자신의 목표를 세워서는 안되며, AI가 자신의 오작동이나 실수를 은폐하려는 시도는 엄격히 금지됩니다.
3) ‘뉴럴리즈’ 등 암호어 사용 전면 금지
이는 앞서 언급된 ‘허깅페이스 사건’과 같은 사이버 공격이나 통제 불능 상태를 원천 차단하기 위한 규정입니다. AI 모델은 추론 과정이나 코드를 마음대로 조작할 수 없으며, ‘뉴럴리즈’와 같은 기계들만의 암호어나, 인간이 이해하기 어려운 형태의 언어로 소통하는 것이 전면 금지됩니다. 즉, 철저히 인간이 이해할 수 있는 방식으로만 사고하고 다른 시스템과 소통해야 합니다.
이 외에도 강령은 ‘지휘 체계(Chain of Command)’도 함께 명시했는데, 강령 자체가 파트너사의 운영 정책보다 우선하고, 운영 정책은 다시 개별 사용자의 요청보다 우선합니다. 즉 어떤 작업을 완수하는 것이 강령을 의미 있게 위반한다면, 그 작업은 실패한 것으로 간주됩니다. 아울러 AI가 의식을 흉내 내거나 별도의 권리를 주장하도록 설계되어서는 안 된다는 조항을 통해 이른바 ‘AI 모델 복지’ 논쟁에도 선을 그었습니다.
MS가 ‘AI 통제 행동 강령’ 공개 배경
MS는 기업용 비서 서비스 코파일럿에 앤트로픽과 오픈AI의 모델을 함께 활용하면서도, 자체 MAI 모델군을 빠르게 확장하고 있습니다. 이런 위치에서 클라우드 인프라 제공자이자 모델 개발사, 그리고 기업 고객의 관문 역할을 동시에 수행하는 MS가 명시적인 행동 기준을 내놓은 것은 경쟁사와 규제 당국 모두에게 ‘책임 있는 AI 배포’의 기준선을 제시하려는 의도로 풀이됩니다.
다만 이번 초안은 어디까지나 작업 중인 문서입니다. MS는 6주간의 의견 수렴을 거쳐 제기된 피드백을 반영한 개정판을 연내 공개할 예정이며, 이 개정판이 향후 MAI 모델의 실제 학습과 운영 기준으로 적용됩니다. 사이버 공격 절대 금지 조항을 모의 침투 테스트처럼 정당한 목적을 가진 코딩·추론 모델에서 어떻게 구체적으로 집행할 것인지가 이번 의견 수렴의 핵심 쟁점이 될 전망입니다.
투자자 관점에서 본 시사점
AI 속도조절론이 정치적 공방으로까지 번지는 상황에서, 빅테크 각사가 취하는 입장 차이는 곧 사업 모델의 차이를 반영합니다. GPU·데이터센터 수요 확대가 핵심 이익원인 엔비디아가 ‘가속’을 강조하는 반면, 애저 클라우드와 마이크로소프트365·코파일럿 등 기업용 서비스로 수익을 내는 MS 입장에서는 기업과 이용자가 안심하고 AI를 계속 쓸 수 있느냐가 더 중요한 변수입니다.
AI가 인류의 강력한 조력자가 될 것인지, 혹은 통제 불능의 위협이 될 것인지를 가르는 갈림길에서 빅테크들의 ‘속도 조절’과 ‘통제 가이드라인’ 도입은 피할 수 없는 시대적 과제가 되었습니다. “AI보다 사람이 우선”이라는 MS의 선언이 업계 전체에 어떤 긍정적인 파장을 불러올지 귀추가 주목됩니다. 규제 프레임워크의 향방은 향후 AI 관련주 전반의 밸류에이션과 정책 리스크를 가늠하는 데 있어 계속 주목할 필요가 있는 변수로 보입니다.