|
Silicon Motion ha annunciato il nuovo SM2524XT , controller SSD PCIe Gen 5 x4 di nuova generazione sviluppato per gestire inferenza AI e carichi di lavoro legati alla KV Cache . La nuova soluzione DRAMless punta a offrire prestazioni elevate negli AI PC di prossima generazione, con particolare attenzione alle operazioni casuali e alla riduzione della latenza. Il ...
Hardware Upgrade
-
12 ore fa
|
|
|
|
Per affinare ulteriormente il processo, Google ha implementato una gestione condivisa della KV cache (Key - Value cache), evitando che il drafter debba ricalcolare contesti già elaborati dal modello ...
Hardware Upgrade
-
8-5-2026
|
|
|
|
La compressione del "Peso" (memoria a lungo termine) supererebbe llama.cpp open - source dal 9% al 17,8% , mentre quella della cache KV, ridurrebbe la perdita di perplessità tra lo 0,06% e il 3,52%. ...
Hardware Upgrade
-
8-5-2026
|
|
|
|
Parallelamente, prosegue lo sviluppo di SSD PCIe Gen6 per rispondere alle esigenze di storage ad alte prestazioni, ad esempio per la gestione di cache KV nei modelli linguistici. Nonostante i ...
Hardware Upgrade
-
30-4-2026
|
|
|
|
|
|
Gli articoli sono stati selezionati e posizionati in questa pagina in modo automatico.
L'ora o la data visualizzate si riferiscono al momento in cui l'articolo è stato aggiunto o aggiornato in Libero 24x7