NVIDIA DGX SparkにおけるMoE推論を強化する3つの方法
トークンの生成をより高速化するには、まず推論性能を制限している要因を特定することから始まります。NVIDIA上でInclusion AIが実施したLing-3.0-flashのバッチサイズ1による評価では…
AI NEWS JOURNAL
AI ニュースを検索
見出し・要約・本文から、情報のつながりを探します。
百度が、数百ページに及ぶ文書の解析向けのUnlimited OCR 2をオープンソース化
Baiduは、MITライセンスの3B規模のOCRモデルであるUnlimited OCR 2をリリースし、1回のリクエストで数百ページに及ぶ文書を解析できます。同モデルのSR-SWAアテンションにより、各ステップのデコーディングコストはほぼ一定に保たれ、MarathonDocBenchでは77.1点を獲得しています。この記事「Baidu、数百ページの文書解析向けUnlimited OCR 2をオープンソース化」は、MarkTechPostに最初に掲載されました。
データカルチャーがゼロトラストから出荷可能なAI分析エージェントへと辿った道のり
Data Cultureは、AI分析の導入における精度を0％から94.7％に向上させた3段階の評価フレームワークを構築しました。
