아모데이가 AI 안전 위해 외부 평가자 상주·공통 기준·정부 협력 제안

AI 기업의 동기와 공공 안전 간 충돌을 둘러싼 논쟁이 부각되었다: 기업의 이해관계를 의심하는 문제와 AI 위험 그 자체를 부정하는 문제는 분리해야 한다는 관점이 제시되었다.

논쟁의 핵심

스티브 아이즈먼은 AI 기업이 위기를 조성한다고 비판했다. 데메트리 코피나스는 기업 동기의 문제 제기와 AI 통제 위험에 대한 평가를 구분해야 한다고 했다.

선두 연구소의 전략과 동기

코피나스는 선두 연구소들이 자금이 소진되기 전에 초지능과 재귀적 자기개선에 도달하려는 경쟁을 벌인다고 분석했다. 막대한 지출은 정부와의 협력을 탐색하는 동기로 작용할 수 있다는 해석을 제시했다.

거버넌스와 이해관계

기술금융 자본, 국가안보 기관, 정치권, 시민의 이해관계가 얽혀 있다. 안전 협력이 기존 기업 지위를 보호하는 방향으로 설계될 가능성이 있으며 의사결정 과정에서 시민 의견이 배제될 위험이 지적되었다.

아모데이 제안의 내용과 해석의 구분

아모데이는 상주 외부 평가자 배치, 업계 공통 안전 기준 수립, 정부 간 협력을 제안했다. 목적은 안전성 검증 시간을 확보하는 것이다. 제안의 명시적 내용과 이를 자금과 주도권 확보를 위한 협상으로 해석하는 관점은 구분되어야 한다.

세대 간 가치와 위험 인식

코피나스는 기존 자산 가치를 지키는 선택이 다음 세대의 경제적 기회를 보장하지 않는다고 지적했다. 동시에 이해관계에 대한 비판이 AI 통제 위험을 경시할 근거가 되지 않는다고 강조했다.

평가 기준

위험의 근거를 검증하고 대응책의 효과를 점검하며 비용과 이익의 배분을 따져야 한다: 주가는 오르는가, AI는 안전해지는가, 사회적 편익은 확산되는가.