AIの基盤モデルの高性能化を巡り、世界中で競争が激化している。Noetra(ノエトラ)に代表されるように、日本でも国産モデル開発の機運が高まってきた。ただし、研究開発でも巨額の投資でも大幅に先行する米国や中国に、日本が伍していくのは容易ではない。そこで重要になるのが、より少ない計算資源で、より高い性能を見込める独自の技術である。
その候補の一つになりうる新たなアーキテクチャを富士通が開発した。既存のLLM(大規模言語モデル)ベースの基盤モデルが利用するTransformerのメモリの利用効率を大幅に高める「PHOTON」と呼ぶ技術である。
同社の実験によればメモリ容量当たりのトークンの処理速度(スループット)を、最大で1000倍以上に高められるという。
2026年7月に開催した自然言語処理のトップ会議「ACL 2026」で発表した1)、注1)。
Amazonで見る価格、在庫およびポイント情報は表示された日時の時点のものであり、変更される場合があります。本商品の購入においては、購入時にAmazon.co.jpに表示されている情報が適用されます。
>>1
省電力化は日本の得意分野だからマジで頑張ってほしいな
問題はLLMの成長が止まりつつあって
AI開発が他の方法にシフトしていくスピードが速いと
せっかく省電力化しても誰ももう使わないみたいになっちゃうリスクが(´・ω・`)
本当に?
また営業が安請け合いしてるだけなんじゃないの?
富士通案件は現場が悲惨なんだよなぁ
まだ研究段階のものに営業も何もないw
何ならarXivで論文読めるし
>>2
国産化だけ教えて
笑えるか笑えないか
メモリ帯域の問題が解決して475倍速に
>>6
「またあの嫌なConfigPPPが」
とかいう時代
AIに要約して貰うか
トークンの処理速度が上がるだけで、トークン量は変わらないのでは?
不治痛だから
何にいつ勝つんですか?
推論の過程の話だからならんやろ
結局はそれなりのモデルをvramにロードしない事には始まらん
何でも良けりゃ今でもスマホでも動くぞ
何その CD にカッターで筋入れると音が良くなるみたいなやつ
どーせ突貫で考えただろ
そんなものを国際会議で発表するわけないだろ
そんなことしたら大問題だ
優位性と言っても長くは持たないだろう
豊富な資金と力業で対抗できない国は技術で対抗するしかないからな
中華は既に使えるもん出してるしな
もはや日本は口だけで悲しい
使ってるだけで使えるかは微妙だろ中国は未完成でも市場に並ぶ
最近作ったスパコンはCPU単体じゃGPU単体に効率じゃ敵わないから
物量と電力使って解決するという脳筋仕様だったが
>>29
日本のAI関連の歴史に嫉妬するなよ
文字認識や音声でとっくの昔にインフラに組み込まれてるわ
もともとPHOTONはメモリ効率を優先した軽量な設計になっているため、単発の推論では従来のTransformerより若干精度が落ちる。その精度低下を補うために、複数解釈を並列で走らせて多数決を取る、という位置づけです。
同じGPUメモリで通常なら1つしか走らせられない推論を、複数同時に並列実行できる。この「同じメモリ予算でたくさん処理できる」効率化こそが475倍という数字の正体です。
単発の推論は帰納的な解答が求められる一般層にはありがたがられるが
研究や業務用途では複数解答こそが求められる
国産AIが米中に追いつき追い越すには圧倒的な効率化という方向を目指すしかない
基礎技術ではすでに勝負付いてるからな
理論値ではなく実測値はどうなるんだろ?
あとは信頼性とプロダクションキャパシティの問題か
どんなに優れた物でも歩留まり率が悪かったら儲からないしね
歩留まり???
製造における良品率ってことね
それはこの話には何の関係もないんだが
関係あるよ儲からないものにはお金が集まらない
お金が集まらなければ事業を展開出来ない
絵に描いた餅で終わってしまう
これは富士通の研究だから金集まる集まらないは関係ないんだが
富士通の金でやってることなんだから
今後富士通がAI関連の事業した時に売れるか売れないかは別の話だが、AIの性能に問題なければメモリの使用量を抑えられる分安く企業に売れるから競争力はあるんじゃないかね
製造と何の関係が?
知ったかぶりにしてもひでぇな
ホイ卒じゃねぇか
ソフトウェアの話だっての分かってるか?
ホームラン級の池沼だと思ったわ
さっそく天才AI集団松尾研究所を支援してミュトスみたいの作らせろよ
どうせホラッチョじゃないのはt
変な動画がでまわるのか
KVはいいとして、1ビット量子化して大丈夫なの?1.58で非線形にしなきゃダメとかだったような?
>>>
PHOTON
意味単位処理+階層化でKVキャッシュを縮小
長文・多クエリで圧倒的(475倍)
アーキテクチャ変更(Transformerではない)
1ビット量子化(Takane)
重みを1ビット化してモデルサイズを縮小メモリ94%削減、速度3倍
既存Transformerに適用可能
<<<
すごそう(小並感)
>>>
1⃣ QEP(Quantization Error Propagation)
→ 1ビット化で失われる情報を“誤差として別経路で伝搬”させる
→ 実質的に「1ビット+補助情報」で1.58bit相当の表現力を確保
2⃣ QQA(Quantized Query Attention)
→ Attentionの線形性が壊れる部分を補正
→ 1ビット化してもAttentionの分布が崩れないようにする
3⃣ Takane全体での再学習(再最適化)
→ 単なる量子化ではなく、1ビット化した状態で再学習して線形性を復元する(LoRAに近いがもっと軽量)

Amazonで見る


