フェデレーテッド学習（FL）は、データプライバシーを保ちながら分散データソースで機械学習モデルを訓練する有望なアプローチです。特に大規模言語モデル（LLM）の導入に伴い、通信オーバーヘッドやメモリ制約が課題となります。NVIDIA FLAREは、メッセージ量子化とストリーミング機能を統合し、通信のボトルネックを緩和し、メモリ使用量を削減します。これにより、FLの効率性とスケーラビリティが向上し、現実世界での展開が促進されます。

フェデレーテッド学習（FL）は、データプライバシーを保ちながら分散データソースで機械学習モデルを訓練する新しい手法です。しかし、特に大規模言語モデル（LLM）を扱う際に、通信オーバーヘッドとローカルリソースの制約が課題となります。NVIDIAのFLAREは、メッセージ量子化とストリーミング機能を導入し、通信効率とメモリ効率を改善。これにより、モデルのサイズ制限を超えた通信が可能になり、FLの実用性とスケーラビリティが向上します。

ComputeEvalは、CUDAコード生成におけるLLMの評価を行うオープンソースのフレームワークです。128の実世界問題を用いて、メモリ管理やスレッド同期などの分野でLLMが正しいCUDAコードを生成できるかを評価します。初期評価の結果は、現状のAI支援CUDAプログラミングの性能を示し、今後の改善点を明らかにします。

CohereがHugging Face Hubの推論プロバイダとしてサポートを開始しました。Cohereは企業向けのAIモデルを提供し、特に長文対応や多言語対応に優れたモデルを用意。利用者はウェブUIやSDKを通じて、Cohereの各種モデルにアクセス可能です。さらに、ツール使用の機能も充実しています。

2024年のAds Safety Reportでは、AIを活用した広告詐欺防止の進展が紹介されています。50以上の技術的改善が行われ、調査が迅速化され、詐欺の兆候を早期に発見。特にAIを利用した有名人のなりすまし広告に対抗するため、100人以上の専門家チームが対策を講じ、70万以上の違反アカウントを永久停止しました。これにより、詐欺広告の報告が90%減少しました。

HELMETは長文文脈言語モデル(LCLM)を評価するための新しいベンチマークです。従来の評価方法は、合成タスクに依存しがちで、実世界での性能を反映していません。HELMETは多様なアプリケーションでの評価を重視し、59のLCLMを対象に性能を比較しました。評価の結果、モデルの能力を理解するためには多様なタスクでの評価が不可欠であることが示されました。HELMETは今後のLCLMの開発において重要な役割を果たすでしょう。

NVIDIAの新モデル「Llama Nemotron Ultra」は、科学的推論やコーディングにおいて業界最高の精度を誇ります。AIはテキスト生成を超え、深い推論と問題解決力を提供。オープンソースデータを活用し、735KのPythonサンプルを含むデータセットを無料提供しています。このモデルは、企業向けの様々なアプリケーションに対応し、効率的なコンピューティングを実現します。

NVIDIAのLlama Nemotron Ultraは、科学的推論やコーディングのベンチマークで他のオープンモデルを凌駕し、76%の精度を達成。データサイエンスやビジネスにおけるAIの応用を加速するために、オープンソースのトレーニングデータセットも提供。企業向けに最適化されたこのモデルは、コーディング補助やカスタマーサービスなど、多様なタスクに対応可能です。

アブダビ政府のTAMMプラットフォームは940以上のサービスを提供しており、2024年にAIを活用したTAMM 3.0が導入されました。このAIアシスタントは、ユーザーのニーズを予測し、個別対応を行い、サービスの自動化を実現します。主な機能には、サービスに関する質問への対応、個人データの利用、サービスの実行、一般知識の提供、サポートフローがあります。AIアシスタントは、LangChainとLangGraphを基盤にしており、政府サービスの効率化と市民のエンゲージメント向上を目指しています。

NVIDIA Agent Intelligence toolkitを使ってAIコード生成を改善する方法を紹介します。このオープンソースライブラリは、AIエージェントのチームを接続・最適化し、開発者や研究者がエージェントアプリケーションを作成するのに役立ちます。具体的には、テスト駆動型のコーディングエージェントを構築し、エラー修正やコード実行を行うプロセスを示しています。エージェントは、問題文、修正コード、ユニットテストを受け取り、コード生成を繰り返し行います。

Hugging FaceとProtect AIが提携し、機械学習モデルの安全性を強化。Guardian技術により、新たに4つの脅威検出モジュールが追加され、352,000の危険な問題が特定されました。Guardianは、実行リスクを疑わしいものとしてフラグ付けし、ユーザーに重要なセキュリティ情報を提供します。今後も脅威検出能力を進化させ、より安全なオープンソースAIの利用を目指します。

Hugging FaceがPollen Roboticsを買収し、オープンソースロボットの販売を開始します。Pollen Roboticsは9年間にわたり、オープンソースロボットを開発してきました。新たに提供するロボット「Reachy 2」は、研究や教育に適した最新のヒューマノイドロボットです。Hugging Faceはこれまでに5回の買収を行い、ロボティクス分野での成長を目指しています。

マイクロソフトは50周年を迎え、新たなAIコンパニオン「Copilot」を発表しました。このAIは、ユーザーの個別ニーズに応じてパーソナライズされた体験を提供し、日常生活を便利にすることを目指しています。具体的には、検索、ショッピング、ポッドキャスト、ライティング支援など多岐にわたる機能を備えています。

GoogleのDolphinGemmaは、イルカの音声を解析し、彼らのコミュニケーションを理解する手助けをしています。Wild Dolphin Projectと連携し、400万パラメータのAIモデルを開発。これにより、イルカの音声パターンを特定し、意味を探ることが可能に。さらに、CHATシステムを用いて、イルカとの双方向コミュニケーションも試みています。

DifyアプリをMCPサーバーとして利用する方法を解説します。1. MCPプラグインをインストール。2. Difyアプリを選択（例: Deep Research）。3. MCPサーバーエンドポイントを設定し、JSON形式で入力パラメータを定義。4. ユニークなエンドポイントURLを取得。5. 他のMCPクライアントにDify MCPサーバーを追加。Dify MCPサーバーは、AIを内部ワークフローに組み込むのに役立ち、REST APIとは異なり、AIエージェントが柔軟にツールを利用できるようになります。

Harmonicは、スタートアップ発見エンジンとして、VC向けにデータを集約し、自然言語検索を導入。LangGraphとLangSmithを活用して、投資プロセスを簡素化し、ユーザーは迅速に最適なスタートアップを見つけられるようになった。検索時間は数時間から1分未満に短縮され、ポジティブな結果が30％向上した。

Google Cloud Next 25で、L'OréalやReddit、Deutsche Bankなどのビジネスリーダーが、生成AIの導入がもたらす新たな機会について語った。具体的には、NVIDIAとの提携により、AIを規制された業界に届ける「Google Distributed Cloud」や、L'Oréalのマーケティングチーム向けのAIコンテンツ制作プラットフォームなどが紹介された。これにより、業界全体でのAI活用が進み、顧客体験や業務効率が向上している。

NVIDIAとMetaのPyTorchチームが連携し、モバイルデバイス向けに連携学習(FL)の機能を提供。NVIDIA FLAREはオープンソースのSDKで、機械学習のフローを連携型に適応。ExecuTorchはモバイルデバイスでの推論と学習を可能にするソリューション。両者の統合により、ユーザープライバシーを保ちながら大規模なデバイスでのFLが実現。これにより、データサイエンティストはモデルの設計に集中できる。

NVIDIA NIMとLLM技術を活用したCytoReasonのRAGパイプラインにより、生物学的知見の文献からの抽出が大幅に効率化されました。これにより、従来数日かかっていたプロセスが数時間で完了し、精度も向上。人間の研究者よりも多くの生物学的エンティティをカバーし、重要な遺伝子の発見が促進されます。

科学論文から生物学的知見を抽出するのは複雑な作業で、通常は数日かかる。NVIDIA NIMと大規模言語モデル（LLM）を活用することで、CytoReasonはこのプロセスを数時間に短縮した。提案されたRAGパイプラインでは、疾患に関連する文献からのデータマイニングを自動化し、精度の高い知見を迅速に取得可能にする。これにより、新たな遺伝子の発見も実現し、従来人間が行っていた作業を高効率化している。

NVIDIAが発表した「llama-3.1-nemotron-ultra-253b-v1」は、科学的及び複雑な数学的推論、コーディング、ツール呼び出し、指示に従う能力において高い精度と優れた推論効率を誇ります。このモデルは、AIによる応答生成における精度と信頼性向上に寄与します。無料APIを使った開発も可能で、利用には注意が必要です。

GoogleとRange Media Partnersが提携し、AIと人間の関係を探る短編映画プログラム「AI on Screen」を発表しました。このプログラムでは、感情や倫理的ジレンマをテーマにしたオリジナルの物語を18ヶ月間にわたり制作します。最初の2作品「SWEETWATER」と「LUCID」は今年公開予定で、映画祭への出品も計画されています。多様な視点を取り入れた創作を通じて、次世代の観客に新たな対話を促すことが期待されています。

Polarsは、GPUを活用したデータ処理のためのオープンソースライブラリです。本記事では、データセットサイズが大きくなるにつれて、PolarsのGPU Parquetリーダーの性能を最大限に引き出す方法を解説します。特に、チャンク化されたParquetリーダーとUnified Virtual Memory (UVM)の組み合わせが、従来のリーダーやCPUベースのアプローチを上回る理由を説明し、メモリ管理の改善とスループットの向上を図ります。