🔗 원문 전체 보기 → Venturesquare.net
요약
AI 최첨단 모델의 개발 속도를 조절해야 한다는 목소리가 커지고 있지만 앤스로픽과 오픈AI 등 주요 기업의 데이터센터와 컴퓨팅 자원 투자는 계속되고 있다. 다리오 아모데이 앤스로픽 CEO가 제안한 ‘속도 조절’ 역시 개발 중단이나 투자 축소보다 외부 평가와 안전성 검증, 기업과 국가 간 공조 체계를 마련하는 데 초점이 맞춰져 있다. 실리콘밸리와 미국 정치권에서도 방법론을 둘러싼 입장이 엇갈리는 가운데 속도 조절론의 실효성은 기업들이 구체적인 검증 기준과 통제 …
본문
- AI 개발 속도 조절론이 확산했지만, 기업들의 반도체·데이터센터 투자는 지속
- 앤스로픽은 외부 평가자 상주를 약속했으나 국제 공조와 제도화는 아직 구상 단계
- 선언의 진정성은 평가자 활동과 접근 권한, 구체적인 속도 조절 기준 공개 여부가 좌우할 전망
인공지능(AI) 업계에서 최첨단 모델의 개발 속도를 조절해야 한다는 주장이 확산하고 있지만, 실제 기업들의 투자 움직임에는 별다른 변화가 나타나지 않고 있다. AI 안전을 강조하는 기업들도 데이터센터와 반도체 확보를 이어가고 있다. ‘속도 조절’이 개발과 투자를 줄이자는 것인지, 안전성 검증을 강화하자는 것인지를 놓고 시장과 업계의 해석이 엇갈리는 모습이다.
논쟁에 불을 붙인 것은 다리오 아모데이 앤스로픽 최고경영자(CEO)다. 아모데이는 지난 12일 ‘우리는 프런티어의 속도를 조절해야 한다(We Must Pace the Frontier)’는 제목의 에세이를 내고 “AI 모델의 능력을 개선하는 속도를 늦춰야 한다”고 주장했다. 샘 올트먼 오픈AI CEO와 일론 머스크도 이에 동조했다.
시장은 이를 AI 인프라 수요가 둔화할 수 있다는 신호로 받아들였다. 14일 반도체주를 비롯한 AI 관련주는 하락한 반면 사이버보안주는 올랐다. 그러나 공급망에서는 GPU 출하 감소나 메모리 주문 취소 같은 움직임이 확인되지 않았다. 인베스팅닷컴에 따르면 KC 라지쿠마르 린치 에쿼티 스트래티지스 애널리스트는 TSMC와 반도체 후공정 업체의 납기에도 변화가 없다고 밝혔다.
아모데이가 제시한 구상을 살펴보면 ‘속도 조절’은 반도체 구매나 데이터센터 건설을 줄이는 것과는 거리가 있다. 구상은 외부 평가자 상주, 민주주의 국가 간 공조, 국제 공조 등 세 단계로 구성된다. 이 가운데 앤스로픽이 당장 시행하겠다고 밝힌 것은 외부 평가자에게 사무실과 회사 노트북, 출입 권한을 제공하는 첫 단계다. 나머지는 미국의 입법과 국가 간 협상이 필요한 사안이다.
아모데이는 속도 조절이 모델 훈련이나 기술 발전을 중단한다는 의미는 아니라고 설명했다. 기업이 AI 정렬과 안전장치를 마련할 시간을 충분히 확보해야 한다는 것이다. 에세이에는 연산 자원 배분이나 데이터센터 건설, 모델 출시 일정을 줄이겠다는 내용이 담기지 않았다. 하드웨어와 관련해서는 고성능 AI 칩과 반도체 제조 장비의 대중국 수출을 막고, 칩 밀수와 해외 데이터센터 원격 접속을 단속해야 한다고 주장했다.
기업들의 투자 계획도 그대로다. 브로드컴은 AI 반도체 매출이 2027 회계연도 약 1150억달러, 2028 회계연도 약 2300억달러에 이를 것으로 보고 있다. 혹 탄 브로드컴 CEO는 2027년 AI 매출을 두 배로 늘리는 데 필요한 공급 물량을 확보했으며 실제 수요는 전망치를 웃돈다고 밝혔다. CNBC는 속도 조절 선언 이틀 뒤인 14일에도 브로드컴이 기존 목표를 유지했다고 보도했다.
앤스로픽과 오픈AI 역시 데이터센터 확보를 계속하고 있다. CNBC는 18일 복수의 소식통을 인용해 두 회사가 20~30메가와트(MW) 규모의 소형 데이터센터 부지를 찾고 있다고 보도했다. 대규모 데이터센터 캠퍼스가 완공되기를 기다리는 대신, 이미 전력이 들어오는 부지에서 추론에 필요한 연산 능력을 빠르게 확보하려는 것이다.
앤스로픽의 장기 조달 규모도 상당한 것으로 알려졌다. 데이터센터다이내믹스는 디 인포메이션의 집계를 인용해 앤스로픽이 최근 11개월 동안 약 5170억달러 규모의 컴퓨팅 자원 임차 계약을 체결했다고 전했다. 다만 앤스로픽이 공식 확인한 수치는 아니다.
“멈추자는 얘기는 아니다”…속도 조절의 기준은 결국 ‘검증과 통제’
실리콘밸리 내부에서도 속도 조절 방식을 놓고 입장이 갈리고 있다. 마크 저커버그 메타 CEO는 16일 공동 대응론에서 거리를 뒀다. 보스턴글로브에 따르면 저커버그는 각 AI 연구소가 자체 모델을 안전하게 훈련할 수 있는 속도로 개발을 진행할 책임과 유인을 이미 갖고 있다고 밝혔다. 다른 기업에 먼저 속도를 늦추라고 요구할 필요가 없다는 취지다. 젠슨 황 엔비디아 CEO도 최근 드림포스 행사에서 아모데이, 올트먼과 다른 입장을 내놓았다.
미국 정치권은 속도 조절론에 더욱 부정적이다. 도널드 트럼프 미국 대통령은 13일 관련 요구를 일축했고, 이튿날 AI에 필요한 안전장치는 “강하고 똑똑한 대통령”뿐이라고 썼다. 마이크 존슨 미 하원의장은 의회가 긴급 규제에 나서면 중국과의 AI 경쟁에서 뒤처질 수 있다고 주장했다. 중국 정부는 속도 조절 요구를 “공포 조장”이라고 비판했다.
전문가들은 기업들의 선언만으로는 실질적인 공조가 이뤄지기 어렵다고 본다. 안톤 라이히트와 스콧 싱어 카네기국제평화재단 연구원은 15일 발표한 분석에서 속도 조절이 작동하려면 명확한 정의와 검증 장치, 정부의 지원이 필요하지만 아직 어느 것 하나 시작되지 않았다고 평가했다. 트럼프 행정부가 반독점 조항을 근거로 기업 간 공조를 제한할 가능성도 거론했다.
한국에도 과제가 남아 있다. 아모데이가 제안한 민주주의 국가 간 공조의 초기 논의에 한국은 참여하지 않았다. 외부 평가자에게 사무 공간과 시스템 접근 권한을 제공하려면 기업 내부에 위험 평가 조직부터 갖춰야 한다. 이를 실행할 역량이 있는 국내 AI 개발사가 얼마나 되는지도 확인되지 않았다.
다만 외부 평가자 상주 구상은 다른 제안보다 구체적이라는 평가를 받을 수 있다. 아모데이는 외부 평가자가 AI의 위험 수준과 사고, 기업의 관행뿐 아니라 어떤 접근 권한을 받았고 무엇을 제한받았는지까지 앤스로픽의 편집 없이 공개할 수 있어야 한다고 밝혔다. 다른 기업의 참여 여부와 관계없이 시행하겠다고 한 점도 실제 이행 여부를 확인할 수 있는 대목이다.
데이터센터 투자가 계속된다는 사실만으로 속도 조절론이 허구라고 단정하기도 어렵다. 기업이 확보한 연산 자원은 새 모델을 훈련하는 데만 쓰이지 않고, 이미 출시한 서비스를 운영하는 추론 과정에도 투입된다. 컴퓨팅 자원 조달이 늘었다고 해서 모델 개발 속도도 같은 비율로 빨라진다고 볼 수는 없다는 것이다.
오픈AI가 지난 3일 공개한 GPT-6 아스트라도 이런 복잡성을 보여준다. 오픈AI는 10만개가 넘는 GPU를 투입해 역대 최대 규모로 모델을 훈련했지만, 가장 강력한 사이버 기능은 소수의 신뢰할 수 있는 테스터에게만 공개했다. 개발 규모를 키우면서도 일부 기능의 공개 범위를 제한하는 방식으로 안전장치를 둔 셈이다.
속도 조절 논의를 처음 공론화한 것도 기업 경영진이 아니라 AI 업계 종사자들이었다. 오픈AI와 앤스로픽, 구글 딥마인드, 메타 직원들은 지난 7월 28일 프런티어 AI의 개발 속도를 조절할 기술적 수단을 마련해 달라는 공개서한을 냈다. 공개 당시 1100여명이던 서명자는 이달 1386명으로 늘었다. CEO들의 발언은 그 뒤에 나왔다.
결국 속도 조절론의 실효성은 선언보다 실행에서 판가름 날 전망이다. 앤스로픽의 외부 평가자가 언제 업무를 시작하고 어떤 내용을 공개하는지, 오픈AI가 평가자의 접근 조건을 문서로 제시하는지, 기업들이 말하는 ‘속도 조절’의 기준과 기한이 구체적인 수치로 나오는지가 첫 시험대다. 현재까지 세 단계 구상 가운데 실제 이행이 예고된 것은 외부 평가자에게 책상과 출입증, 회사 노트북을 제공하는 첫 단계뿐이다.
* 스타트업 생태계 기자단은 KAIA와 벤처스퀘어가 함께 운영하며 스타트업 현장의 다양한 이야기를 기록합니다.
Like this:
Like Loading...Related
Expanding Data Centers While Saying “Let’s Slow Down”… AI Companies’ Conflicting Calculations
Although arguments are spreading in the artificial intelligence (AI) industry that the pace of development for cutting-edge models needs to be slowed, there has been no significant change in actual corporate investment movements. Even companies emphasizing AI safety are continuing to secure data centers and semiconductors. The market and industry appear to have conflicting interpretations regarding whether "speed control" means reducing development and investment or strengthening safety verification.
It was Anthropic CEO Dario Amodei who ignited the controversy. On the 12th, Amodei published an essay titled "We Must Pace the Frontier," arguing that "we must slow down the pace of improving the capabilities of AI models." OpenAI CEO Sam Altman and Elon Musk also agreed with this view.
The market interpreted this as a signal that demand for AI infrastructure could slow. On the 14th, AI-related stocks, including semiconductor stocks, fell, while cybersecurity stocks rose. However, no movements such as reduced GPU shipments or canceled memory orders were confirmed in the supply chain. According to Investing.com, KC Rajkumar, an analyst at Lynch Equity Strategies, stated that there were no changes in delivery schedules for TSMC and semiconductor back-end processors.
Looking at the plan presented by Amoday, "speed control" is far removed from reducing semiconductor purchases or data center construction. The plan consists of three stages: the stationing of external evaluators, cooperation among democratic nations, and international cooperation. Among these, Anthropic has stated it will implement the first stage immediately: providing external evaluators with offices, company laptops, and access rights. The remaining matters require U.S. legislation and negotiations between nations.
Amodei explained that slowing down does not mean halting model training or technological advancement. He argued that companies need to secure sufficient time to align their AI and establish safeguards. The essay did not contain any plans to reduce the allocation of computational resources, data center construction, or model launch schedules. Regarding hardware, he argued that the export of high-performance AI chips and semiconductor manufacturing equipment to China should be blocked, and that chip smuggling and remote access to overseas data centers should be cracked down on.
Companies' investment plans also remain unchanged. Broadcom projects that AI semiconductor revenue will reach approximately $115 billion in fiscal year 2027 and $230 billion in fiscal year 2028. Broadcom CEO Hock Tan stated that the company has secured the supply volume necessary to double AI revenue by 2027 and that actual demand exceeds forecasts. CNBC reported on the 14th that Broadcom maintained its existing targets even two days after announcing a slowdown.
Anthropic and OpenAI are also continuing to secure data centers. On the 18th, CNBC reported, citing multiple sources, that the two companies are looking for sites for small data centers ranging from 20 to 30 megawatts (MW). Instead of waiting for large-scale data center campuses to be completed, they aim to quickly secure the computing power needed for inference at sites that already have power.
Anthropic's scale of long-term financing is also reported to be substantial. DataCenterDynamics reported, citing data from The Information, that Anthropic entered into computing resource lease agreements worth approximately $517 billion over the past 11 months. However, this figure has not been officially confirmed by Anthropic.
“We are not saying we should stop”… The standard for speed adjustment is ultimately 'verification and control'
Even within Silicon Valley, opinions are divided regarding how to manage the pace. On the 16th, Meta CEO Mark Zuckerberg distanced himself from the idea of a coordinated response. According to the Boston Globe, Zuckerberg stated that each AI lab already has the responsibility and incentive to proceed with development at a pace that allows them to safely train their own models. The implication is that there is no need to demand that other companies slow down first. Nvidia CEO Jensen Huang also presented a different stance from Amoday and Altman at a recent Dreamforce event.
The U.S. political establishment is increasingly negative about calls to slow down. U.S. President Donald Trump dismissed related demands on the 13th and wrote the following day that the only safeguard needed for AI is a “strong and smart president.” U.S. House Speaker Mike Johnson argued that if Congress moves to implement emergency regulations, the country could fall behind in the AI race with China. The Chinese government criticized the calls to slow down as “fear-mongering.”
Experts believe that substantial cooperation is difficult to achieve based solely on corporate declarations. In an analysis released on the 15th, Anton Reicht and Scott Singer, researchers at the Carnegie Endowment for International Peace, assessed that while clear definitions, verification mechanisms, and government support are necessary for the pace-regulating mechanism to work, none of these have yet begun. They also raised the possibility that the Trump administration might restrict cooperation between companies based on antitrust provisions.
Challenges remain for Korea as well. Korea did not participate in the initial discussions on cooperation among democratic nations proposed by Amoday. To provide external evaluators with office space and system access, companies must first establish internal risk assessment organizations. It has not been confirmed how many domestic AI development companies possess the capability to implement this.
However, the plan for on-site external evaluators can be evaluated as more specific than other proposals. Amoday stated that external evaluators must be able to disclose, without editing by Anthropic, not only the AI risk level, incidents, and corporate practices, but also what access permissions were granted and what restrictions were imposed. The fact that they pledged to implement this regardless of the participation of other companies is also a key point to verify actual implementation.
It is difficult to conclude that the argument for slowing down development is a fallacy based solely on the fact that data center investments continue. Computational resources secured by companies are not used solely for training new models but are also deployed in the inference processes for operating already launched services. This means that just because the procurement of computing resources has increased, it cannot be assumed that the speed of model development is accelerating at the same rate.
GPT-6 Astra, unveiled by OpenAI on the 3rd, also demonstrates this complexity. Although OpenAI trained the model on the largest scale ever by deploying over 100,000 GPUs, it released its most powerful cyber features only to a small number of trusted testers. In effect, it established a safeguard by limiting the scope of disclosure for certain features while expanding the scale of development.
It was not corporate executives, but AI industry professionals, who first brought the discussion on controlling the pace of development into public discourse. On July 28, employees from OpenAI, Anthropic, Google DeepMind, and Meta issued an open letter calling for the provision of technical measures to regulate the development speed of frontier AI. The number of signatories, which stood at around 1,100 at the time of its release, increased to 1,386 this month. Remarks from CEOs followed.
Ultimately, the effectiveness of the "speed control" strategy is expected to be judged by implementation rather than declaration. The first test lies in when Anthropic’s external evaluators begin their work and what information they disclose, whether OpenAI documents the evaluators’ access conditions, and whether the criteria and deadlines for the "speed control" discussed by companies are presented in concrete figures. Of the three-stage plan so far, the only one scheduled for actual implementation is the first stage: providing external evaluators with desks, access cards, and company laptops.
The Startup Ecosystem Reporter Corps is jointly operated by KAIA and Venture Square and records various stories from the startup scene.
「速度遅くしよう」ながらデータセンターは拡大… AI企業のズレ
人工知能（AI）業界で最先端モデルの開発速度を調節しなければならないという主張が広がっているが、実際の企業の投資の動きにはあまり変化が現れていない。 AI安全を強調する企業もデータセンターと半導体の確保を続けている。 「速度調節」が開発と投資を減らそうか、安全性検証を強化しようかをめぐって市場と業界の解釈が交錯する姿だ。
論争に火をつけたのは、ダリオ・アモデイ・アンスロピック最高経営者（ＣＥＯ）だ。アモデーは去る12日「私たちはフロンティアの速度を調節しなければならない(We Must Pace the Frontier)」はタイトルのエッセイを出して「AIモデルの能力を改善する速度を遅らせなければならない」と主張した。サム・オルトマンオープンAI CEOとイロン・マスクもこれに同調した。
市場はこれをAIインフラ需要が鈍化できるという信号として受け入れた。 １４日、半導体株をはじめとするＡＩ関連株は下落したが、サイバーセキュリティは上がった。しかし、サプライチェーンではGPU出荷の減少やメモリ注文のキャンセルなどの動きが確認されていない。インベスティングドットコムによると、KCラジクマールリンチエクオティ・ストラテジス・アナリストは、TSMCと半導体後工程メーカーの納期にも変化がないと明らかにした。
アモデーが提示した構想を見ると、「速度調整」は半導体購入やデータセンターの建設を減らすこととは距離がある。構想は、外部評価者常駐、民主主義国家間空調、国際空調などの三段階で構成される。この中でアンスロピックがすぐに施行すると明らかにしたのは、外部評価者に事務所と会社のノートパソコン、出入り権限を提供する最初のステップだ。残りは米国の立法と国家間の交渉が必要な事案だ。
アモデーは、スピード調整がモデルの訓練や技術の発展を止めるという意味ではないと説明した。企業がAI整列と安全装置を設ける時間を十分に確保しなければならないということだ。エッセイには、演算資源配分やデータセンター建設、モデル発売日程を減らすという内容が含まれていない。ハードウェアに関しては、高性能AIチップと半導体製造装置の大中国輸出を防ぎ、チップ密輸と海外データセンターのリモート接続を取り締まらなければならないと主張した。
企業の投資計画もそのままだ。ブロードコムはAI半導体の売上が2027年度約1150億ドル、2028年度約2300億ドルに達すると見ている。ホクタンブロードコムのCEOは、2027年にAIの売上を2倍に増やすのに必要な供給量を確保し、実際の需要は見通しを上回ると明らかにした。 CNBCはスピード調整宣言の2日後の14日にもブロードコムが既存目標を維持したと報道した。
アンスロピックとオープンAIもデータセンターの確保を続けている。 CNBCは18日、複数の消息筋を引用し、両社が20～30メガワット（MW）規模の小型データセンター敷地を探していると報道した。大規模なデータセンターキャンパスが完成するのを待つのではなく、すでに電力が入っている敷地で推論に必要な演算能力を素早く確保しようとするのだ。
アンスロピックの長期調達規模も相当だという。データセンターダイナミックスはデインフォメーションの集計を引用し、アンスロピックが最近11ヶ月間、約5170億ドル規模のコンピューティング資源賃借契約を締結したと伝えた。ただしアンスロピックが公式確認した数値ではない。
「止めようという話ではない」…速度調整の基準は最終的に「検証と制御」
シリコンバレーの内部でも速度調整方式を置いて立場が分かれている。マーク・ジャッカーバーグのメタCEOは16日、共同対応論で距離を置いた。ボストン・グローブによると、ジャッカーバーグは、各AI研究所が独自のモデルを安全に訓練できる速度で開発を進める責任と有人をすでに持っていると明らかにした。他の企業にまずスピードを遅らせるよう要求する必要がないという趣旨だ。ジェンセンファン・エンヴィディアCEOも最近ドリームフォースのイベントでアモデー、オルトマンと他の立場を出した。
米国の政治権はスピード調整論にさらに否定的である。ドナルド・トランプ米大統領は１３日、関連要求を一蹴し、翌日ＡＩに必要な安全装置は「強くてスマートな大統領」だけだと書いた。マイク・ジョンソン米下院議長は、議会が緊急規制に乗り出すと、中国とのAI競争で遅れる可能性があると主張した。中国政府は速度調節要求を「恐怖助長」と批判した。
専門家たちは企業の宣言だけでは実質的な共助が成り立たないと見ている。アントン・ライヒトとスコット・シンガー・カーネギー国際平和財団研究員は、15日に発表した分析でスピード調整が機能するには、明確な定義と検証装置、政府の支援が必要だが、まだいずれも始まっていないと評価した。トランプ政権が反独占条項に基づいて企業間の空調を制限する可能性も取り上げた。
韓国にも課題が残っている。アモデーが提案した民主主義国家間空調の初期議論に韓国は参加しなかった。外部評価者に事務スペースとシステムへのアクセスを提供するには、企業内部にリスク評価組織から整備する必要があります。これを実行する能力がある国内AI開発会社がどれだけなるのか確認されなかった。
ただし、外部評価者常駐構想は、他の提案より具体的な評価を受けることができる。アモデーは、外部の評価者がAIのリスクレベルと事故、企業の慣行だけでなく、どのようなアクセス権を受けて何が制限されたかまでアンスロピックの編集なしで公開できるべきだと明らかにした。他の企業の参加の有無にかかわらず施行するとの点も、実際の履行の可否を確認できることだ。
データセンターへの投資が続くという事実だけで、速度調整論が架空だと断定することも難しい。企業が確保した演算資源は新しいモデルを訓練するのに使われず、すでに発売したサービスを運営する推論過程にも投入される。コンピューティング資源調達が増えたとしても、モデル開発速度も同じ比率で速くなるとは見えないということだ。
オープンAIが去る3日公開したGPT-6アストラもこのような複雑性を見せる。オープンAIは10万個を超えるGPUを投入して歴代最大規模でモデルを訓練したが、最も強力なサイバー機能は少数の信頼できるテスターにのみ公開した。開発規模を上げながらも一部機能の公開範囲を制限する方式で安全装置を置いたわけだ。
スピード調整議論を初めて公論化したのも企業経営陣ではなく、AI業界の従事者だった。オープンAIとアンスロピック、グーグルディープマインド、メタ職員たちは去る7月28日フロンティアAIの開発速度を調節する技術的手段を設けてほしいという公開書簡を出した。公開当時約1100人だった署名者は今月1386人に増えた。 CEOの発言はその後に出てきた。
結局、スピード調整論の実効性は宣言よりも実行から判決の日の見通しだ。アンスロピックの外部評価者がいつ業務を開始し、どのような内容を公開するのか、オープンAIが評価者の接近条件を文書で提示するのか、企業が言う「速度調整」の基準と期限が具体的な数値で出るのかが初の試験台だ。現在までに3段階構想の中で実際の履行が予告されたのは、外部評価者に机と出入証、会社ノートブックを提供する最初の段階だけだ。
*スタートアップエコシステム記者団はKAIAとベンチャースクエアが共に運営し、スタートアップ現場の様々な話を記録します。
一边扩张数据中心，一边又说着“让我们慢下来”……人工智能公司自相矛盾的考量
尽管人工智能（AI）行业内关于需要放慢尖端模型研发速度的呼声日益高涨，但企业的实际投资动向并未发生显著变化。即使是那些强调AI安全性的公司，也仍在继续加强数据中心和半导体的安全防护。市场和行业对于“速度控制”究竟是指减少研发投入还是加强安全验证，似乎存在着不同的解读。
引发这场争议的是Anthropologie首席执行官达里奥·阿莫迪。12日，阿莫迪发表了一篇题为《我们必须放慢前沿步伐》的文章，文中他认为“我们必须放慢人工智能模型能力提升的步伐”。OpenAI首席执行官萨姆·奥特曼和埃隆·马斯克也赞同这一观点。
市场将此解读为人工智能基础设施需求可能放缓的信号。14日，包括半导体股在内的人工智能相关股票下跌，而网络安全股上涨。然而，供应链方面并未出现GPU出货量减少或内存订单取消等情况。据Investing.com报道，林奇股票策略公司分析师KC Rajkumar表示，台积电和半导体后端处理器的交付计划没有变化。
从Amoday提出的方案来看，“速度控制”与减少半导体采购或数据中心建设相去甚远。该方案分为三个阶段：派遣外部评估人员、民主国家间的合作以及国际合作。其中，Anthropic公司已表示将立即实施第一阶段：为外部评估人员提供办公室、公司笔记本电脑和访问权限。其余事项则需要美国立法以及各国之间的谈判。
阿莫迪解释说，放缓发展速度并不意味着停止模型训练或技术进步。他认为，企业需要确保有足够的时间来调整其人工智能系统并建立安全保障措施。文章中并未提及任何减少计算资源分配、数据中心建设或模型发布计划的举措。关于硬件方面，他认为应该禁止向中国出口高性能人工智能芯片和半导体制造设备，并严厉打击芯片走私和远程访问海外数据中心的行为。
各公司的投资计划也保持不变。博通公司预计，2027财年人工智能半导体收入将达到约1150亿美元，2028财年将达到2300亿美元。博通首席执行官陈福表示，公司已确保到2027年实现人工智能收入翻番所需的供应量，且实际需求超过预期。CNBC于14日报道称，博通在宣布放缓增长两天后，仍维持了其原有目标。
Anthropic 和 OpenAI 也在持续推进数据中心的建设。18 日，CNBC 援引多方消息报道称，这两家公司正在寻找适合建设小型数据中心的地点，这些数据中心的容量在 20 到 30 兆瓦 (MW) 之间。他们并不打算等待大型数据中心园区建成，而是希望在现有电力设施覆盖的地点快速获取推理所需的计算能力。
据报道，Anthropic 的长期融资规模也相当庞大。DataCenterDynamics 援引 The Information 的数据报道称，Anthropic 在过去 11 个月中签订了价值约 5170 亿美元的计算资源租赁协议。然而，Anthropic 尚未正式证实这一数字。
“我们并不是说应该停止”……速度调整的标准最终是“验证和控制”。
即使在硅谷内部，对于如何控制人工智能发展速度也存在分歧。16日，Meta首席执行官马克·扎克伯格公开反对采取协调一致的应对措施。据《波士顿环球报》报道，扎克伯格表示，每个人工智能实验室都有责任也有动力以能够安全训练自身模型的速度推进研发。言下之意是，没有必要要求其他公司率先放慢速度。英伟达首席执行官黄仁勋在最近的Dreamforce大会上也表达了与Amoday和Altman不同的立场。
美国政界对放缓人工智能发展的呼声日益持否定态度。美国总统唐纳德·特朗普于13日驳斥了相关要求，并在第二天撰文称，人工智能发展唯一需要的保障是一位“强有力且睿智的总统”。美国众议院议长迈克·约翰逊则认为，如果国会着手实施紧急法规，美国在人工智能竞赛中可能会落后于中国。中国政府批评这些放缓发展的呼声是“散布恐慌”。
专家认为，仅凭企业声明难以实现实质性合作。卡内基国际和平研究院的研究员安东·赖希特和斯科特·辛格在15日发布的一份分析报告中指出，虽然明确的定义、核查机制和政府支持对于监管机制的运作至关重要，但这些要素目前均未落实。他们还提出，特朗普政府可能会以反垄断条款为由限制企业间的合作。
韩国也面临挑战。韩国并未参与Amoday提出的民主国家间合作的初步讨论。为了向外部评估人员提供办公场所和系统访问权限，企业必须首先建立内部风险评估机构。目前尚不清楚有多少韩国国内人工智能开发公司具备实施这一能力。
然而，与其它方案相比，关于现场外部评估人员的计划显得更为具体。Amoday指出，外部评估人员必须能够在未经Anthropic编辑的情况下，披露人工智能的风险等级、事故和企业实践，以及已授予的访问权限和施加的限制。他们承诺无论其他公司是否参与都将执行该计划，这一点也是检验其实际执行情况的关键所在。
仅仅因为数据中心投资持续增长，就断言放缓开发速度的论点是谬论，这很难成立。企业获取的计算资源并非仅用于训练新模型，还用于已上线服务的推理过程。这意味着，仅仅因为计算资源的采购量增加，并不能假定模型开发的速度也以同样的速度加快。
OpenAI于3日发布的GPT-6 Astra也展现了这种复杂性。尽管OpenAI部署了超过10万个GPU，以前所未有的规模训练了该模型，但它仅向少数可信的测试人员发布了其最强大的网络安全特性。实际上，OpenAI通过限制某些特性的公开范围，同时扩大开发规模，建立了一套安全保障机制。
并非企业高管，而是人工智能行业的专业人士率先将控制人工智能发展速度的讨论带入公众视野。7月28日，来自OpenAI、Anthropic、Google DeepMind和Meta的员工发表了一封公开信，呼吁采取技术措施来规范前沿人工智能的发展速度。这封公开信发布时约有1100人签名，本月签名人数已增至1386人。随后，一些首席执行官也发表了评论。
最终，“速度控制”策略的有效性将取决于实际执行情况而非口头宣称。首要考验在于Anthropic的外部评估人员何时开始工作以及他们披露了哪些信息；OpenAI是否记录了评估人员的访问权限；以及各公司讨论的“速度控制”标准和截止日期是否以具体数字呈现。在目前分三阶段实施的计划中，只有第一阶段——为外部评估人员提供办公桌、门禁卡和公司笔记本电脑——被列入实际执行计划。
创业生态系统记者团由KAIA和Venture Square联合运营，记录创业领域的各种故事。
Expansion des centres de données et discours de ralentissement… Les calculs contradictoires des entreprises d’IA
Bien que l'idée de ralentir le développement des modèles de pointe se répande dans le secteur de l'intelligence artificielle (IA), les investissements des entreprises restent globalement inchangés. Même celles qui insistent sur la sécurité de l'IA continuent de sécuriser leurs centres de données et leurs semi-conducteurs. Le marché et l'industrie semblent avoir des interprétations divergentes quant à la signification de ce « contrôle du rythme » : faut-il réduire le développement et les investissements ou renforcer la vérification de la sécurité ?
C’est Dario Amodei, PDG d’Anthropic, qui a déclenché la polémique. Le 12, il a publié un essai intitulé « Nous devons freiner l’innovation », dans lequel il affirmait qu’« il est impératif de ralentir le rythme d’amélioration des capacités des modèles d’IA ». Sam Altman, PDG d’OpenAI, et Elon Musk partageaient également cet avis.
Le marché a interprété cela comme un signal de ralentissement potentiel de la demande en infrastructures d'IA. Le 14, les actions liées à l'IA, notamment celles du secteur des semi-conducteurs, ont chuté, tandis que celles de la cybersécurité ont progressé. Cependant, aucune modification de la chaîne d'approvisionnement, telle qu'une réduction des livraisons de GPU ou une annulation de commandes de mémoire, n'a été constatée. Selon Investing.com, KC Rajkumar, analyste chez Lynch Equity Strategies, a indiqué qu'aucun changement n'était à signaler concernant les calendriers de livraison de TSMC et des processeurs de semi-conducteurs.
À la lumière du plan présenté par Amoday, le « contrôle de la vitesse » est bien loin de viser une réduction des achats de semi-conducteurs ou de la construction de centres de données. Ce plan se compose de trois étapes : le déploiement d’évaluateurs externes, la coopération entre nations démocratiques et la coopération internationale. Anthropic a déclaré qu’elle mettrait en œuvre la première étape immédiatement : fournir aux évaluateurs externes des bureaux, des ordinateurs portables professionnels et des droits d’accès. Les autres points nécessitent une législation américaine et des négociations entre les pays.
Amodei a expliqué que ralentir le rythme ne signifie pas interrompre l'entraînement des modèles ni le progrès technologique. Il a soutenu que les entreprises doivent se ménager suffisamment de temps pour adapter leur IA et mettre en place des mesures de sécurité. Son essai ne mentionne aucune réduction des ressources de calcul allouées, de la construction de centres de données ou des calendriers de lancement de modèles. Concernant le matériel, il a plaidé pour le blocage des exportations de puces d'IA haute performance et d'équipements de fabrication de semi-conducteurs vers la Chine, ainsi que pour la répression du trafic de puces et de l'accès à distance aux centres de données étrangers.
Les plans d'investissement des entreprises restent inchangés. Broadcom prévoit que son chiffre d'affaires lié aux semi-conducteurs pour l'IA atteindra environ 115 milliards de dollars au cours de l'exercice 2027 et 230 milliards de dollars au cours de l'exercice 2028. Le PDG de Broadcom, Hock Tan, a déclaré que l'entreprise avait sécurisé les volumes d'approvisionnement nécessaires pour doubler son chiffre d'affaires lié à l'IA d'ici 2027 et que la demande réelle dépassait les prévisions. CNBC a rapporté le 14 que Broadcom maintenait ses objectifs, même deux jours après avoir annoncé un ralentissement de sa croissance.
Anthropic et OpenAI poursuivent également leurs efforts pour sécuriser des centres de données. Le 18, CNBC a rapporté, citant plusieurs sources, que les deux entreprises recherchent des sites pour de petits centres de données d'une puissance de 20 à 30 mégawatts (MW). Plutôt que d'attendre l'achèvement de vastes campus de centres de données, elles cherchent à sécuriser rapidement la puissance de calcul nécessaire à l'inférence sur des sites déjà alimentés en électricité.
L'ampleur des financements à long terme d'Anthropic serait également considérable. DataCenterDynamics a rapporté, citant des données de The Information, qu'Anthropic aurait conclu des contrats de location de ressources informatiques d'une valeur d'environ 517 milliards de dollars au cours des 11 derniers mois. Ce chiffre n'a cependant pas été confirmé officiellement par Anthropic.
« Nous ne disons pas que nous devrions nous arrêter… » La norme pour l’ajustement de la vitesse est en fin de compte « la vérification et le contrôle ».
Même au sein de la Silicon Valley, les avis divergent quant à la manière de gérer le rythme de développement. Le 16, Mark Zuckerberg, PDG de Meta, a pris ses distances avec l'idée d'une réponse coordonnée. Selon le Boston Globe, il a déclaré que chaque laboratoire d'IA a déjà la responsabilité et la motivation de poursuivre ses développements à un rythme lui permettant d'entraîner ses propres modèles en toute sécurité. Cela signifie qu'il n'est pas nécessaire d'exiger des autres entreprises qu'elles ralentissent en premier. Jensen Huang, PDG de Nvidia, a également présenté une position différente de celle d'Amoday et d'Altman lors d'un récent événement Dreamforce.
L'establishment politique américain se montre de plus en plus réticent face aux appels à ralentir le développement de l'IA. Le président américain Donald Trump a rejeté ces demandes le 13 et a écrit le lendemain que la seule garantie nécessaire à l'IA était un « président fort et intelligent ». Le président de la Chambre des représentants, Mike Johnson, a affirmé que si le Congrès adoptait une réglementation d'urgence, le pays risquait de prendre du retard sur la Chine dans la course à l'IA. Le gouvernement chinois a qualifié ces appels à ralentir de « manœuvres d'intimidation ».
Les experts estiment qu'une coopération substantielle est difficile à instaurer sur la seule base de déclarations d'entreprises. Dans une analyse publiée le 15, Anton Reicht et Scott Singer, chercheurs à la Fondation Carnegie pour la paix internationale, ont constaté que si des définitions claires, des mécanismes de vérification et un soutien gouvernemental sont indispensables au bon fonctionnement du mécanisme de régulation, aucun de ces éléments n'a encore été mis en place. Ils ont également évoqué la possibilité que l'administration Trump restreigne la coopération entre entreprises en s'appuyant sur les dispositions antitrust.
Des défis persistent également pour la Corée. Elle n'a pas participé aux discussions initiales sur la coopération entre nations démocratiques proposées par Amoday. Afin de fournir aux évaluateurs externes des bureaux et un accès aux systèmes, les entreprises doivent d'abord mettre en place des services internes d'évaluation des risques. On ignore combien d'entreprises coréennes de développement d'IA sont en mesure de le faire.
Cependant, le plan prévoyant la présence d'évaluateurs externes sur site peut être considéré comme plus précis que d'autres propositions. Amoday a indiqué que les évaluateurs externes doivent pouvoir divulguer, sans modification de la part d'Anthropic, non seulement le niveau de risque lié à l'IA, les incidents et les pratiques de l'entreprise, mais aussi les autorisations d'accès accordées et les restrictions imposées. Le fait qu'ils se soient engagés à mettre en œuvre ce plan indépendamment de la participation d'autres entreprises est également un élément clé pour vérifier sa mise en œuvre effective.
Il est difficile de conclure que l'argument en faveur d'un ralentissement du développement est fallacieux, du seul fait que les investissements dans les centres de données se poursuivent. Les ressources de calcul acquises par les entreprises ne servent pas uniquement à l'entraînement de nouveaux modèles, mais sont également déployées dans les processus d'inférence nécessaires au fonctionnement des services déjà lancés. Autrement dit, l'augmentation des acquisitions de ressources de calcul ne saurait impliquer une accélération proportionnelle du développement des modèles.
GPT-6 Astra, dévoilé par OpenAI le 3, illustre également cette complexité. Bien qu'OpenAI ait entraîné le modèle à une échelle sans précédent en déployant plus de 100 000 GPU, ses fonctionnalités de cybersécurité les plus puissantes n'ont été communiquées qu'à un petit nombre de testeurs de confiance. De fait, l'entreprise a mis en place une mesure de protection en limitant la divulgation de certaines fonctionnalités tout en élargissant le périmètre de développement.
Ce ne sont pas les dirigeants d'entreprises, mais les professionnels du secteur de l'IA qui ont, les premiers, porté le débat sur la maîtrise du rythme de développement sur la place publique. Le 28 juillet, des employés d'OpenAI, d'Anthropic, de Google DeepMind et de Meta ont publié une lettre ouverte appelant à la mise en place de mesures techniques pour réguler la vitesse de développement des IA de pointe. Le nombre de signataires, qui s'élevait à environ 1 100 au moment de sa publication, est passé à 1 386 ce mois-ci. Des réactions de PDG ont suivi.
En définitive, l’efficacité de la stratégie de « régulation du rythme » devrait être jugée sur sa mise en œuvre plutôt que sur ses déclarations. Le premier test consiste à observer quand les évaluateurs externes d’Anthropic commenceront leurs travaux et quelles informations ils divulgueront, si OpenAI documente leurs conditions d’accès et si les critères et les délais de la « régulation du rythme » évoqués par les entreprises sont présentés sous forme de chiffres concrets. Sur les trois phases prévues à ce jour, seule la première est programmée pour une mise en œuvre effective : fournir aux évaluateurs externes des bureaux, des cartes d’accès et des ordinateurs portables de l’entreprise.
Le Startup Ecosystem Reporter Corps est géré conjointement par KAIA et Venture Square et recueille divers reportages sur l'écosystème des startups.