"인류를 위해" → "펜타곤을 위해" — 샘 올트먼이 10년간 깨뜨린 약속들

OpenAI는 인류를 위한 오픈소스 AI를 약속했다. 10년 후, 그 모델은 펜타곤 기밀 네트워크에 올라갔다. 샘 올트먼이 깨뜨린 모든 약속, 증거 포함.

결론부터 말씀드릴게요.

금요일 밤, 샘 올트먼이 X에 글을 올렸죠. OpenAI가 펜타곤(미국 국방부)과 계약했다고요. 자사 AI 모델을 미군 기밀 네트워크에 탑재한다는 내용이었어요. 그런데 올트먼이 펜타곤을 뭐라고 부르지 않으셨나요? ‘국방부’가 아니라 **“전쟁부(Department of War)”**라고 했어요. 마치 자랑이라도 하듯 말이에요. 처음 들었을 때 정말 소름이 끼쳤어요.

그보다 몇 시간 전, Anthropic — OpenAI를 나와 안전 문제를 우려한 연구진들이 설립한 회사 — 이 트럼프 행정부 블랙리스트에 등재됐어요. 이유는 명확했어요. 자율 무기나 대규모 감시에 안전 장치를 뺀 AI를 사용하라는 펜타곤의 요구를 거부했기 때문이죠. Anthropic은 “안 됩니다"라고 선을 그었고, 그 대가로 블랙리스트에 올랐어요. 반면 OpenAI는 그 자리를 밟고 지나가며 계약서에 사인했죠. 우리가 일상적으로 이메일 작성이나 아이디어 정리용으로 쓰는 그 챗봇이, 이제 누가 살지 누가 죽을지 결정하는 군사 시스템과 연결되고 있는 거예요. 이 기술을 만든 사람이 지난 10년 동안 “절대 이런 일은 일어나지 않을 것"이라고 약속해왔다는 걸 생각하면, 정말 씁쓸한 현실이 아닐 수 없어요.


우리한테 왜 이게 중요하냐면

여기서 잠시 멈춰서 질문해 볼게요. “남의 나라 이야기 아닐까?” 싶으실 수 있어요. 그런데 우리나라는 이미 자율 무기를 실전에 배치한 나라이거든요.

DMZ에 설치된 SGR-A1을 아시나요? 삼성테크윈(현재 한화에어로스페이스)과 고려대가 함께 개발한 자율 초소 로봇이에요. 열화상 카메라와 패턴 인식을 통해 사람, 동물, 물체를 구분하고, 5.56mm 기관총까지 장착돼 있어요. 2010년부터 DMZ에 배치됐으며, 주간 4km, 야간 2km까지 표적 식별이 가능하다고 알려져 있어요. 공식 입장에서는 “사격 전 인간 승인이 필수"라고 하지만, 미국 신(新)미국안보센터 연구원은 “자율 사격이 가능한 시스템을 갖추고 있다고 볼 만한 상당한 근거가 있다”고 지적했어요. 삼성테크윈은 이를 부인했지만, 정확한 배치 개수는 여전히 기밀로 남아 있어요.

2026년 현재, 한국군은 이보다 훨씬 진전된 기술을 도입하고 있어요.

  • AI 기반 유무인 복합 전투 차량(K-CEV) — 2026년 2월 양평 훈련장에서 첫 실전 훈련 공개. 360도 AI 상황인식 장치가 피아 식별을 자동으로 해요
  • 자율 전투 드론 1,500기 양산 계획
  • 2027년 FA-50 전투기에 AI 파일럿 탑재 예정, 2030년 이후 완전 자율화 목표
  • 5G 기반 지능형 드론 군집 비행 체계 개발 중

OpenAI와 펜타곤의 계약이 남의 나라 이야기가 될 수 없는 이유가 바로 여기에 있어요. 주한미군 28,500명이 주둔해 있고, 제12차 한미 방위비분담 특별협정에 따라 2026년 1조 5,192억 원을 부담하고 있거든요. 미군이 사용하는 AI 시스템이 바뀐다면 한미 연합작전 방식도 필연적으로 바뀌게 돼요. 이건 워싱턴의 뉴스가 아니라 서울의 뉴스예요.


“기밀 네트워크"가 실제로 뭘 하는 건지

‘펜타곤 계약’이라는 말만 들으면 좀 막연하게 느껴질 수 있어요. 기밀 군사 네트워크가 실제로 어떤 일을 하는지 짚고 넘어갈게요.

바로 정보 데이터 처리, 표적 식별, 위협 평가, 통신 감청이에요. 현대전의 핵심 인프라이자 감시 체계가 바로 이 네트워크 위에서 돌아가고 있죠. 올트먼이 “기밀 네트워크에 모델을 배치한다"고 말할 때, 이는 ChatGPT의 핵심 기술이 미군의 인물 탐색, 추적, 그리고 해당 인물에 대한 조치 결정 시스템에 직접 연결된다는 뜻이에요.

올트먼은 계약에 “국내 대규모 감시"와 “자율 무기 시스템” 금지 조항이 명시됐다고 강조했어요. 펜타곤 역시 “안전 문제에 깊은 존중을 보였다"고 밝혔고요. 그런데 여기서 이상한 지점이 하나 드러나죠.

Anthropic이 동일한 제한 조건을 요구했을 때, 펜타곤은 단호히 거절했어요. 피트 헤그세스 국방장관은 해당 조건을 “철학적"이며 “워크(woke) 성향"이라고 규정했죠. 이어 Anthropic을 국가안보 공급망 위험 업체로 지정했어요. 보통 화웨이 같은 중국 기업에 적용하는 조치죠.

Anthropic이 제안한 안전 장치는 거부하고, OpenAI가 제시한 것은 수락하는 이중잣대. 뭔가 납득하기 어렵지 않으신가요?


AI 군사 활용이 어떤 건지, 우리는 이미 봤어요

AI가 군사 표적 시스템에 투입되면 어떤 일이 벌어질지 상상해 볼 필요 없어요. 이미 현장을 통과했기 때문이죠.

라벤더(Lavender) 시스템

가자 지역에서 이스라엘 방위군은 “라벤더”라는 AI 시스템을 가동했어요. 전화 기록, 사회적 연결고리, 행동 패턴 등 대규모 감시 데이터를 분석해 37,000명의 팔레스타인인을 잠재적 표적으로 분류했죠.

두 번째 시스템 “아빠는 어디?(Where’s Daddy?)“는 분류된 인물의 휴대폰 위치를 실시간으로 추적하고, 표적이 집에 도착하는 순간 운영자에게 알림을 보내요. 가족이 함께 있는 집에요.

각 표적에 부여된 인간 검토 시간은 약 20초에 불과했어요. 이름을 확인하기에는 충분하지만, 알고리즘의 오류를 검증하기엔 턱없이 짧은 시간이죠.

이 시스템의 오인식률은 10%로 추정됩니다. 37,000명 중 약 3,700명이 경찰관, 구호 활동가, 동명이인 등으로 잘못 표기됐을 가능성이 크다는 뜻이에요. UN 전문가들은 이 AI 시스템이 표적 선정에 집중 동원된 첫 6주 동안 15,000명 이상의 민간인이 사망했다고 보고했어요.

SF의 이야기 같지만, 이미 현실이 된 사건이에요. 그리고 당시 사용된 AI 시스템은 지금 OpenAI가 기밀 네트워크에 탑재하려는 모델보다 훨씬 저사양이었죠.

리비아 사례

2020년 3월, 터키제 Kargu-2 드론이 리비아에서 인간 표적을 자율적으로 추적하고 공격했어요. 운영자와 무기 사이에 데이터 연결이 전혀 없는 상태에서요. UN 안보리 보고서에서는 이를 “발사 후 원격 개입이 불가능한(emit-and-forget)” 능력이라고 설명했죠.

드론이 스스로 표적을 선택한 사례예요.

2020년 기준 기술 수준이죠. GPT-4나 OpenAI가 현재 배치하려는 시스템과 비교하면 원시적인 수준일 뿐이에요.

규모의 문제

미국 DARPA는 현재 250기 자율 치명 드론 군집을 개발 중이에요. 인도 역시 1,000기 규모 드론 군집 도입을 원하고 있고, UN 사무총장은 2026년까지 자율 무기 금지를 담은 법적 구속력 있는 조약 체결을 촉구했어요.

이에 세계 최고 수준의 언어 모델을 더해 보세요. 정보 보고서를 처리하고, 데이터베이스를 교차 검증하며, 수백만 개의 데이터 포인트에서 패턴을 찾아 행동 권고안을 생성할 수 있는 모델이요.

바로 그 기술이 지금 기밀 네트워크로 들어가고 있는 거예요.


한국이 이미 걸어가고 있는 길

솔직히 말씀드려야 할 사실이 있어요. 한국은 자율 무기 분야에서 단순히 구경꾼이 아니라, 이미 참여자라는 거예요.

1997년 이스라엘에서 Harpy 대레이더 무인항공기 100대를 도입했는데, 이 드론은 사전에 프로그래밍된 영역에서 인간 개입 없이 표적을 탐지하고 공격할 수 있어요. DMZ의 SGR-A1은 그야말로 시작에 불과하죠.

여기서 더 우려스러운 지점이 있어요. 2026년 1월부터 시행된 한국 AI 기본법이 국방 분야를 명시적으로 제외했다는 점이에요. 시행령 제2조에 따르면 국방부가 수행하는 지정 업무는 규제 대상에서 빠졌어요. 민간 AI에는 투명성, 안전성, 영향 평가를 의무화하면서도 군사 AI는 사실상 규제 사각지대에 방치된 셈이죠.

한국일보 또한 “목숨 좌우할 AI 무기, 기술 계획만 있고 ‘윤리 로드맵’이 없다”고 보도한 바 있어요. 국방부 내부에 ‘AI 관련 데이터 제도·윤리 담당’ 직제가 신설됐지만, 담당자는 딱 1명이에요. 자율 드론 1,500기 양산을 추진하면서 윤리 담당자는 한 명뿐이라니. 이 균형이 맞다고 생각하시나요?

한미동맹 구조도 빠르게 변하고 있어요. 트럼프 2기 행정부의 2026년 국방전략은 재래식 위협 방어에서 한국의 주도적 역할을 강조하고, 주한미군은 ‘선택적 재배치’ 방향으로 나아가고 있거든요. 미군이 OpenAI 모델을 기밀 네트워크에 도입하면, 한미 연합작전의 AI 의존도가 높아지는 건 시간 문제라 볼 수 있어요.

참고로 한국은 2024년 REAIM(군사 AI 책임 있는 사용) 고위급회의를 네덜란드와 공동 주관했어요. 61개국이 ‘행동을 위한 청사진’에 합의한 자리였죠. 국제무대에서는 리더십을 강조하면서도 정작 국내 군사 AI 규제는 공백 상태라니, 아이러니하지 않으신가요?


아무도 안 하는 이야기 — 이 미래가 가져올 것들

펜타곤 계약은 끝이 아니라 시작이에요. 그리고 정반대 방향의 결승선이 기다리고 있죠.

대규모 감시의 산업화

AI는 감시를 가능하게만 하는 게 아니라, 자동화해요.

기존 감시에는 사람이 필요했어요. 분석관이 통신 기록을 읽고, 카메라 영상을 확인하며, 산발적인 데이터 포인트를 이어붙여야 했죠. 시간도 많이 들고 비용도 많이 들었어요. 그런데 바로 그 ‘인간의 시간’이 정부가 모든 국민을 끊임없이 감시하는 것을 막는 일종의 안전장치 역할을 했어요.

AI는 그 마찰을 완전히 없애버려요.

Anthropic CEO 다리오 아모데이가 자사가 안전 장치를 둔 이유를 설명할 때 한 말이 있어요. AI는 정부가 *“개인 미국인에 대해 흩어져 있고 개별적으로는 무해한 데이터를 자동으로, 대규모로 종합적인 삶의 그림으로 조립”*할 수 있게 한다고 했죠.

휴대폰 위치 데이터, 구매 내역, 소셜 미디어 연결고리, 이메일 메타데이터. 각각은 큰 의미가 없어 보일 수 있어요. 하지만 AI 모델은 이 정보를 연결해 당신의 정체성, 이동 경로, 대인관계, 신념 체계에 이르기까지 완전한 프로필을 만들어낼 수 있어요.

그리고 이 작업을 전 국민에게 동시에, 지치지도 않고, 이의제기 없이 처리할 수 있는 거예요.

한국에서 특히 우려되는 이유가 있어요. 인터넷 실명제, 공인인증서 체계, 카카오톡 93%의 활용도… 개인 데이터가 이미 소수 플랫폼에 집중돼 있잖아요. AI가 이 데이터를 교차 분석하기 시작하면, 한국만큼 감시가 쉬운 국가도 드물 거예요. 솔직히 좀 무서운 현실이죠.

올트먼은 계약에 “국내 대규모 감시 금지” 조항이 포함됐다고 강조했어요. 하지만 ‘국내’의 정의는 이미 모호해지고 있어요. 해외 거주 미국 시민은요? 국경을 넘는 통신은요? 미국 서버에 저장된 외국인 데이터는요? 그리고 우리 데이터는요?

누가 이 금지 조치를 감시하겠냐고요? OpenAI는 보안 인가를 받은 직원을 배치해 사용 현황을 모니터링한다고 해요. 기밀 네트워크라는 특성상 외부인이 접근할 수 없는 공간에서, 회사 직원 몇 명이 미군 전체의 사용 현황을 지켜본다는 뜻이죠. 현실적으로 가능한 일일까요?

자율 킬 체인

“무력 사용에 대한 인간의 책임"이라는 말이 실제로 무엇을 의미하는지 생각해 봐요. 어딘가에 있는 인간이 “승인” 버튼을 누르는 행위일 거예요.

하지만 AI가 이미 표적을 식별하고, 위협 점수를 계산하며, 대응 방안을 권고하고, 무기까지 선택한 상태에서 그 승인 버튼의 의미는 무엇일까요? 인간이 결정을 내리는 게 아니라, AI의 판단에 날인하는 꼴이 돼요. 가자 지역의 20초 검토 과정과 다를 바 없죠.

브루킹스 연구소의 토마스 라이트는 직설적으로 지적했어요: “이 시스템이 준비되기 전에 무조건적 접근을 요구하는 것은 권위의 행사가 아니라, 미지의 것이 중요하지 않을 거라는 도박이다.”

미지의 영역에는 이런 질문들이 포함돼요. GPT급 모델이 드론 영상에서 전투원과 민간인을 신뢰성 있게 구분할 수 있을까? 정보 분석에서 문화적·정서적 맥락을 고려할 수 있을까? 무기처럼 보이는 물건을 든 사람이 사실은 농기구를 들고 있을 수도 있다는 걸 이해할 수 있을까?

지금 기준으로 답은 ‘아니오’예요. Anthropic도 인정했죠. 자사 모델이 “완전 자율 무기에 사용하기엔 충분히 신뢰할 수 없으며”, *“현재 모델을 이런 식으로 사용하면 미국의 전투원과 민간인을 위험에 빠뜨릴 것”*이라고 경고했어요.

Anthropic의 입장이었어요. 하지만 펜타곤은 이를 “워크(woke)적 사고"라고 일축했죠.

정상화 — 진짜 무서운 부분

이 계약에서 가장 위험한 건 계약서 자체보다, 그 뒤에 이어질 일들이에요.

AI가 기밀 네트워크에 일단 도입되면 인프라로 자리잡아요. 기존 워크플로우에 스며들고, 사용자는 점차 의존하게 되죠. 오늘 존재하는 안전 장치도 서서히 협상 대상이 돼요. 다음 계약 갱신은 공개되지 않거든요. 분류 장벽 뒤에서 이루어지는 협상이기에, 펜타곤과 OpenAI 외에는 어떤 변화가 이루어졌는지 알 수 없어요.

오늘: “대규모 감시 없음, 자율 무기 없음.” 내년: “정의된 시나리오에서 제한적 자율 표적 지정.” 내후년: “진화하는 위협 환경에 맞춰 사용 범위 확대.”

이것이 제도적 점진주의가 작동하는 방식이에요. 큰 도약처럼 보이지 않는 용어의 재정의가 서서히 기준을 바꿔나가죠.

우리나라도 같은 길을 걷고 있어요. SGR-A1은 “사격 전 인간 승인 필요"로 시작했지만, AI 전투 차량은 이미 피아 식별을 “자동화"하고 있죠. 2027년 AI 파일럿 탑재, 2030년 완전 자율화 목표… 이 궤적이 향하는 방향이 보이지 않으신가요?


모든 모순, 증거 포함

샘 올트먼은 시기에 맞는 말을 잘 하는 편이에요. 그가 어떤 말을 했고, 실제로 어떤 행동을 했는지 정리해 볼게요.

“오픈소스, 인류를 위해” → 비공개, 이윤을 위해

2015년: OpenAI 설립 헌장은 *“재정적 수익 창출 필요에 구애받지 않고, 인류 전체에 가장 이로운 방향으로 디지털 지능을 발전시킨다”*고 약속했어요. 연구 결과와 코드 공개도 활발했죠.

2019년: OpenAI가 투자자에게 100배 수익을 보장하는 ‘수익 제한’ 자회사를 설립했어요. 마이크로소프트가 10억 달러를 투자했고요. OpenAI Files 조사로 공개된 2016~2017년 내부 메일에서 공동 창업자 그렉 브록먼은 이렇게 썼어요: “비영리에 전념한다고 말할 수 없다. 전념한다고 말하고 싶지도 않다.”

2025년: OpenAI가 5,000억 달러 가치의 영리 공익법인으로 전환을 완료했어요. 소프트뱅크가 410억 달러를 투자했고요.

“지분이 없다” → 사실 있었다

2023년 5월: 올트먼이 미국 상원에서 증언했어요. “OpenAI에 지분이 없습니다. 이 일이 좋아서 합니다.”

2024년 12월: TechCrunch가 올트먼이 Sequoia 펀드와 Y Combinator 펀드를 통해 간접 지분을 보유하고 있었다고 보도했어요.

2024년 9월: 로이터는 영리 전환이 올트먼에게 처음으로 지분을 부여하도록 설계되었다고 보도했어요. 하지만 2025년 10월 최종 합의에서 직접 지분은 받지 않았다고 해요. 그럼에도 상원 증언 당시 간접 지분 보유 사실은 이미 사실과 달랐죠.

상원에서 “지분이 없습니다"라고 증언한 사람이요.

“강한 규제가 필요” → 규제는 과잉이다

2023년 5월: 올트먼이 의회에서 *“점점 강력해지는 모델의 위험을 완화하려면 규제 개입이 중요할 것”*이라고 발언했어요.

2025년 5월: 같은 사람, 같은 상원 무대. 테드 크루즈 상원의원과 “과잉 규제"가 진짜 위험이라고 동의했죠.

단 2년 만에 180도 방향 전환이에요.

“컴퓨팅 20%를 안전에” → 안전팀 해산

2023년: OpenAI는 장기 AI 안전 연구를 위해 슈퍼얼라인먼트 팀에 컴퓨팅 자원 20%를 약속했어요.

2024년 5월: 팀 리더 두 명이 연이어 사임했어요. 얀 라이케는 *“안전 문화와 프로세스가 화려한 제품에 밀려났다”*며 Anthropic으로 갔죠. 팀은 해산되었고, 해당 컴퓨팅 자원은 ChatGPT 개발에 쓰였어요. 같은 해 AGI 준비팀도 해산됐고, 2026년 초에는 미션 얼라인먼트 팀까지 정리됐죠.

안전 관련 팀 3곳. 2년이면 모두 사라졌어요.

“NDA 몰랐다” → 서명은 본인 거였다

2024년: OpenAI의 지분 몰수 조항이 포함된 NDA가 공개되었을 때, 올트먼은 사과하며 몰랐다고 밝혔어요. 하지만 Vox가 입수한 2023년 4월 법인 문서에는 해당 조항을 승인하는 올트먼의 서명이 분명히 기록되어 있었죠.

안전 연구원 다니엘 코코타일로는 회사의 안전 실패를 자유롭게 말할 권리를 지키기 위해 자기 가족 순자산의 85%에 해당하는 지분을 포기했어요. 가족 재산의 85%를 건 노력이었죠. 입 다물라는 압박이 그 정도였다는 뜻이에요.

“군사 사용 금지” → 펜타곤 기밀 네트워크

2024년 1월 10일 이전: OpenAI 사용 정책은 “군사 및 전쟁” 응용을 명시적으로 금지했어요.

2024년 1월 10일: 해당 문구가 조용히 삭제되었어요. 블로그 공지나 별도 안내 없이, The Intercept가 발견했을 뿐이죠.

2025년 11월: OpenAI가 미션 스테이트먼트에서 “안전하게(safely)“라는 단어 자체를 삭제했어요. 이전: “인류 전체에 안전하게 이익이 되도록.” 이후: “인류 전체에 이익이 되도록.”

한 단어 삭제가 무슨 의미가 있냐고요? 그 한 단어가 모든 안전 장치를 대변했거든요.

2026년 2월: 펜타곤 기밀 네트워크에 전면 배치가 이루어졌어요. “아니요"라고 말한 회사가 블랙리스트에 오른 지 몇 시간 만에요.

“Anthropic의 레드라인을 공유한다” → Anthropic이 거부한 계약에 사인

가장 최근 사례예요. 올트먼은 직원 메모에서 같은 상황이라면 OpenAI도 *“대체로 Anthropic의 접근 방식을 따를 것”*이라고 밝혔어요.

하지만 같은 상황은 아니에요. Anthropic은 블랙리스트에 올랐고, OpenAI는 계약서를 받았죠. 상대가 거부한 거래를 가져가면서 원칙을 공유한다고 주장하는 건 말장난일 뿐이에요. 행동이 아니라서죠.

Google과 OpenAI 직원 수백 명이 자사 기업이 Anthropic의 실제 입장 — 말이 아니라 — 을 따르도록 청원에 서명했어요.


패턴이 핵심이에요

올트먼이 한 말실제로 한 것
“오픈소스, 인류를 위해”5,000억 달러 영리 법인
“지분이 없다”처음부터 간접 지분을 보유하고 있었음
“강한 규제 필요”2년 뒤 “과잉 규제"라 부름
“컴퓨팅 20% 안전에”2년간 안전팀 3개 해산
“NDA 몰랐다”본인 서명이 문서에 있었음
“군사 사용 금지”금지 삭제 후 펜타곤과 계약
“안전하게 인류에 이익”미션에서 “안전하게” 삭제
“Anthropic 레드라인 공유”Anthropic이 거부한 계약에 사인

공개 기록만 따져도 8번의 방향 전환이 있어요. 불편해지는 순간마다 입장을 바꿨죠. 마음을 고친 게 아니라, 패턴이 작동한 거예요. 샘 올트먼이 오늘 어떤 말을 하든, 지금 그 말이 필요한 배경을 역산해 보면 그 의도를 자연스럽게 읽을 수 있어요.


우리가 할 수 있는 것들

펜타곤 조달 정책에 직접 영향을 미치기란 쉽지 않겠죠. 하지만 무력한 것은 아니에요.

쓰는 AI를 분산하세요. ChatGPT만 고집할 필요 없어요. Claude, Gemini, Copilot, Llama, Mistral 등 다양한 가치관과 구조를 가진 모델이 이미 나와 있어요. 편의성 때문에 한 곳에 묶이면, 그 회사가 방향을 틀 때 함께 휩쓸릴 수밖에 없어요.

AI 스킬은 내 것입니다. 잘 구성된 프롬프트는 ChatGPT에서도, Claude에서도, Gemini에서도 똑같이 작동해요. AI 스킬을 다운받아서 보관하면 텍스트 파일 형태로 저장이 되죠. 어느 회사의 모델이 바뀌어도 내 스킬은 계속 작동합니다.

“아니요"라고 말하는 회사를 주목하세요. 모든 재정적 인센티브가 “네"를 향하는 산업에서, “아니요"라고 선을 그으는 건 마케팅이 아니라 실제 가치관이에요. Anthropic은 2억 달러 계약을 잃었고 연방 정부 블랙리스트에 등재되었어요. 안전 장치를 유지하겠다는 대가를 치른 거죠.

AI 기본법 국방 면제를 문제삼으세요. 민간 AI에는 투명성과 안전성을 요구하면서 군사 AI만 예외라니? 자율 드론 1,500기 양산을 추진하면서 윤리 담당자는 한 명뿐이라니. 국제무대에서는 REAIM 리더십을 주장하면서 국내 규제는 공백이라니. 이 질문은 우리가 꼭 던져야 해요.

미션 스테이트먼트를 추적하세요. 한 분기 만에 미션에서 ‘안전하게’를 삭제하고, 기밀 군사 네트워크에 기술을 탑재하는 회사? 그건 혼합 신호가 아니라 명확한 신호예요.


아무도 대답하고 싶지 않은 질문

개인적으로 이 주제를 깊이 생각하면 두근거림보다는 등줄기가 서늘해지는 느낌이 들어요.

기술 자체는 중립이에요. 대규모 언어 모델은 텍스트를 처리하고 다음 토큰을 예측할 뿐이죠. 그 텍스트가 이메일 초안인지 정보 브리핑인지, 토큰이 레시피인지 표적 목록인지 구분하지 않아요.

문제는 누가 통제하느냐, 어떤 안전장치가 작동하느냐예요.

현재 안전장치는 이렇게 생겼어요. 올트먼이 안전 제한 조항이 포함됐다고 말하는 계약서, 외부 감독이 불가능한 기밀 네트워크 안에서 OpenAI 직원 몇 명이 모니터링하는 구조, 그리고 지난 10년간 주요 약속을 계속 깨뜨려 온 CEO의 서명.

이것이 ‘글쓰기 보조 AI’와 ‘세계 최대 군사력의 대규모 감시 데이터를 처리하는 AI 시스템’ 사이의 유일한 안전장치예요.

안전장치가 무너지면? 우리는 모를 거예요. 기밀이니까요.

DMZ에 자율 무기가 설치된 나라에서, 미군과 연합작전을 수행하는 나라에서, 1조 5천억 원의 방위비를 부담하는 나라에서 — 이건 남의 나라 이야기가 아니에요.

우리 모두의 질문이에요.

여러분은 어떻게 생각하시나요?


관련 스킬

Build Real AI Skills

Step-by-step courses with quizzes and certificates for your resume