の公式発表によると、TetherはQVAC Fabric内のクロスプラットフォームBitNet LoRAファインチューニングフレームワークを発表し、Microsoft BitNet(1-bit LLM)のトレーニングと推論の最適化を実現した。このフレームワークは計算能力とメモリ要件を大幅に削減し、数十億パラメータレベルのモデルをノートパソコン、消費向けGPU、スマートフォンでトレーニングおよびファインチューニングできるようにする。
このソリューションは、BitNetモデルのモバイルGPU(Adreno、Mali、Apple Bionicを含む)でのファインチューニングを初めて実現した。テストでは、125Mパラメータモデルは約10分でファインチューニングが完了し、1Bモデルは約1時間で完了し、スマートフォンでは13Bパラメータモデルまで拡張可能であることが示された。
さらに、このフレームワークはIntel、AMD、Apple Siliconなどの異種ハードウェアをサポートし、非NVIDIAデバイスでの1-bit LLM LoRAファインチューニングを初めて実現した。性能面では、BitNetモデルのモバイルGPU上での推論速度はCPUと比較して2倍から11倍向上し、同時にメモリ使用量は従来の16-bitモデルと比較して最大約77.8%削減された。
Tetherは、この技術が高性能計算能力とクラウドインフラへの依存を打破し、AIトレーニングの分散化とローカル化を推進し、連合学習などの新しいアプリケーションシナリオの基盤を提供する可能性があると述べている。
TetherがQVACクロスプラットフォームBitNet LoRAフレームワークをリリース:消費向けデバイスで数十億パラメータのAIモデルをトレーニング可能
免責事項:本内容は著者個人の見解であり、投資助言ではありません。違反内容を発見した場合クリックして通報
24H人気ランキング
-
イラン外務省:イランと米国の技術協議がスイスで開始された
-
イラン大統領:「イラン側は尊厳を持って交渉に臨み、いかなる譲歩も行っていない」
-
OKXワールドカップ予想エコシステムのパートナーが引き続き支援を拡大、今週の8試合に38万Uの追加賞金プールが設定されました
-
ASYコインの購入方法と取引方法は?ASYコインはどの取引所に上場していますか?
-
市場ニュース:米国のヴァンス副大統領は、イランとの初の会談を終えた後、まもなくスイスで演説を行う予定だ
-
イラン中央銀行は、イランの凍結資産の解除に向けた取り組みを開始した
-
Gateの株式取引が韓国市場で正式に開始され、USDTによる韓国資本市場への直接投資が可能となった
-
モルガン・スタンレー:ETFへの需要が、金価格を5200ドルまで押し上げる鍵となる要因
-
Svmuu夕報
-
イランメディア:イラン大統領が火曜日にパキスタンを訪問する予定
おすすめ記事



