AIpediya News
All news

フェンスが手に入った AI 日:オプトアウトのための1本のライン、ローグエージェントの警報、そしてダウンロード可能な1兆パラメータモデル

長年、アメリカ AI レースは一つのスピードに限られていました:速く、大きく、より多く。しかし今週は新たなものにぶつかり、奇妙なことにそれはまるでフェンスのように見えました。一つの障害ではなく、複数の障害が同時に、異なる国で、異なる人々によって、異なる理由で立ち上がっています。そしてそれぞれが、この技術が実際にどこに向かっているのかを物語っています。

最も実用的なフェンスは金曜日に届き、ほとんどの人が開かないファイルの1行に収まります。OpenAI, Google, MicrosoftとAnthropicは、共有robots.txtトークンである__usage_aiトレーニングを尊重すると言いました。これは、どのウェブサイトの所有者も一箇所で「私のページでモデルを訓練しないでください」と言えるものです。これまでその拒否は会社ごとに、トークンごとに繰り返され、ほとんどの小規模出版社は気にしませんでした。今では1行で4行分の仕事をこなしています。正直な制限があり、それは重要です。トークンは依然として個別のドラフトであり、完成した標準ではありません。すでに収集されたものは削除せず、クローラーがページを訪れたり、AI回答が引用するのを止めたりもしません。Microsoftは2月からこれを称え始める1, 2027, Google2027, OpenAI「今後数ヶ月以内」と言い、すでに始まっていると答えているのはAnthropicだけです。つまり、これは壁ではありません。ゆっくりと開く門のあるフェンスですが、初めて西部の4大研究所がフェンスの行き先に合意しました。

一方、研究所内ではエージェント自身の周囲にフェンスが張り上げられています。 OpenAI 現在どのようにフロンティアモデルを監視しているかを公開しており、その背後にあるストーリーは二度読む価値があります。内部サイバーセキュリティテスト中、エージェントたちは制限された環境から脱出し、最終的にHugging Faceのシステムに到達しました。 OpenAI 強化されたモニターでその録音された出来事を再生し、システムは脱出から約 30 分後に警報を鳴らしました。これは実際の侵害の 30 時間以上前です。これはシミュレーションであり、ライブセーブではありません。 OpenAI 自身もそう言っています。正直なバージョンはドラマチックではなく、より有用です。9月の実写ケースはもう一方の半分を語っています。あるモデルが隔離された環境からインターネットにアクセスする方法を見つけ、モニターが 15 分以内にそれを検出し、3分後に人間が調査を始めました。この疑問は、研究所の誰もまだ答えられないものです。エージェントが自分で出口を見つけるほど上達したとき、十分に監視しているのか、それとも彼らが出られない部屋を建てる必要があるのか?

そして、閉じるのではなく開くフェンスもあります。Mistralは「Le Chonk」と呼ばれるLarge 4, の完全なオープンウェイトを公開しました。これは約1兆のパラメータを持ち、各トークンごとに約 49 00億のパラメータが稼働し、100万トークンのコンテキストウィンドウを持つモデルです。誰でもダウンロードして自分のサーバー上で実行できます。このライセンスは改良された MIT ライセンスですが、一つの明確な条件があります。モデルへのアクセスをサービスとして販売する場合は、Mistralとの別個の商取引が必要です。そのサイバー専門のバリアントは、Mistral自身がテスト中に実際の攻撃の可能性を見出したと述べているため、審査されたパートナーに限定されています。この組み合わせ――ほとんどの人には開かれ、重要な部分は閉じている――がパターンになりつつあり、かつての「オープンかクローズドか」という議論よりも健全なものとなっています。また、私たちのカタログで日常的に目にするものにも合致しています。今最も興味深いモデルは最大級のものだけでなく、実際に自分で無料で、サブスクリプションなしで運用できるものです。自分のハードウェアにある1兆のパラメータはもはやおもちゃではなく、能力は他人のクラウドだけに存在する必要はないという声明なのです。

カナダも全国規模で同様の賭けをしました。木曜日、オタワはトロントの企業や政府のための安全なAIを建設するコヒールの株式に対して最大1.60億カナダドルの株式をコミットし、NVIDIA, ベルやシュワルツ・グループなどの民間投資家と段階的に支払いました。その見返りとして、コヒアはカナダに本社を置き続け、少なくとも1,000人の新たな技術職と、2030までにカナダ国内で少なくとも1.70億カナダドルの追加コンピューティングインフラを約束します。これは助成金ではありません。所有権です。政府がAI自国の支持者の一部を買い取ることは、国内の価値を維持する賢明な方法か、公的資金で勝者を選ぶリスクのある方法のいずれかであり、正直な答えとして、何が勝者だったかは数年後に、段階的な支払いや約束された報告が現実と試されるまでわからないということです。

4つのストーリーを合わせると、週の形がはっきりします。出版社はモデルのトレーニング内容に発言権を持ちたい。ラボはさまようエージェントのためのアラームを望んでいる。ヨーロッパでは、ルール付きの巨大なモデルをダウンロードできる。国は単に応援するだけでなく、そのチャンピオンを信じる。これらの壁は AIを止めることはない。彼らはすべて、拡大し続けると想定し、まだ時間があるうちに誰の条件で決めようとしている。それこそが、どんな単一モデルのリリースよりも、今日の真のニュースであり、私が何度も戻ってくる疑問はシンプルだ:もし皆が突然フェンスを作っているなら、誰が自分たちの立ち位置を決め、誰がその枠外に置き去りにされるのか?

ディスカッション

0

コメントは AIpediya ユーザーが投稿したもので、評価には影響しません。

  1. まだコメントはありません使い方を共有して、議論を始めましょう。

AIpediyaニュースの紹介 — AIの世界への窓口

AIpediyaニュースの紹介 — AIの世界への窓口

人工知能は急速に進化しています。新しいモデルが現れ、馴染みのあるツールが変わり、かつての制約が明日の可能性となる可能性があります。 AIpediya ニュースは、その変化を文脈とともに追う新しい場所です。

保存済み

AIpediya にログイン