Presentata una tecnologia ottica co-confezionata di nuova generazione per addestrare ed eseguire modelli d’intelligenza artificiale generativa nei data center ed in altre applicazioni informatiche.
IBM ha rivelato un’innovazione che potrebbe sostituire i cavi elettrici con connessioni ottiche, offrendo miglioramenti significativi in termini di velocità ed efficienza energetica.
I tecnici hanno sviluppato un nuovo processo per le ottiche co-packaged (CPO), termine che in italiano si traduce come co-confezionate o co-integrate, per portare nei data center la connettività attraverso sistemi ottici, affiancando i tradizionali cablaggi elettrici a corto raggio.
Le CPO ridefiniranno il modo in cui l’industria informatica trasmette dati ad alta larghezza di banda tra chip, circuiti stampati e server, come dimostra la progettazione e l’assemblaggio della prima guida d’onda ottica polimerica (PWG).
I chip (o circuiti integrati) sono parti elettroniche miniaturizzate che contengono transistor ed altri elementi per elaborare segnali.
I circuiti stampati (PCB) sono schede su cui i chip ed altri componenti vengono montati e collegati tramite piste conduttive che permettono d’inviare segnali elettrici seguendo precisi pattern per formare un sistema completo.
Attualmente, la tecnologia a fibre ottiche trasporta dati ad alta velocità su lunghe distanze, gestendo quasi tutto il traffico commerciale e comunicativo mondiale con la luce anziché che con l’elettricità.
I data center utilizzano fibre ottiche per le loro reti di comunicazione esterne, ma i rack all’interno comunicano ancora prevalentemente attraverso cavi elettrici basati sul rame. Questi collegamenti connettono acceleratori GPU che possono rimanere inattivi per oltre metà del tempo, in attesa di dati da altri dispositivi durante processi di addestramento distribuiti su larga scala.
Il nuovo modulo CPO potrebbe aumentare considerevolmente la larghezza di banda delle comunicazioni, riducendo il tempo di inattività delle GPU ed accelerando l’elaborazione dell’AI.
La novità permetterebbe di:
– Ridurre i costi di scalabilità dell’AI generativa grazie ad una diminuzione del consumo energetico di oltre 5 volte in rapporto alle interconnessioni elettriche di fascia media, estendendo la lunghezza dei cavi da uno a centinaia di metri.
– Addestrare più rapidamente consentendo agli sviluppatori di velocizzare fino a 5 volte un modello di linguaggio di grandi dimensioni (LLM) rispetto ai cablaggi elettrici convenzionali, passando da tre mesi a tre settimane.
– Ottimizzare l’efficienza energetica per i data center risparmiando l’equivalente del consumo energetico annuale di 5.000 case statunitensi per ogni modello di AI addestrato.
Dario Gil, vicepresidente senior e direttore della ricerca di IBM, ha spiegato come sia importante evolvere i data center a beneficio dei futuri carichi di lavoro dell’AI generativa che richiede sempre più energia e potenza di elaborazione.
Una larghezza di banda 80 volte più veloce delle comunicazioni chip-to-chip attuali.
Negli ultimi anni, i progressi nei chip hanno incrementato notevolmente la densità dei transistor. La tecnologia IBM a 2 nanometri può contenere oltre 50 miliardi di transistor. L’impiego di CPO mira a scalare la densità di interconnessione tra acceleratori consentendo ai produttori di chip di aggiungere percorsi ottici per collegare chip su un modulo elettronico, superando i limiti delle attuali connessioni elettriche.
Le nuove strutture ottiche ad alta densità, abbinate alla trasmissione di più lunghezze d’onda per canale ottico, potrebbero aumentare la larghezza di banda tra chip fino a 80 volte rispetto alle connessioni elettriche.
L’innovazione permette di aggiungere sei volte più fibre ottiche ai bordi di un chip fotonico a base di silicio, aumentando la densità ottica, nota come beachfront density.
Ogni fibra, pari a circa tre volte il diametro di un capello umano, può estendersi da centimetri a centinaia di metri, trasmettendo terabit di dati al secondo. Il team IBM ha assemblato una guida d’onda ottica polimerica (PWG) ad alta densità con canali ottici con passo di 50 micrometri, accoppiati adiabaticamente a guide d’onda fotoniche in silicio, utilizzando processi standard di assemblaggio.
La documentazione indica inoltre che questi moduli CPO con PWG sono i primi a superare tutti gli stress test richiesti per la produzione.
I componenti sono stati sottoposti ad ambienti ad alta umidità ed a temperature comprese tra -40°C e 125°C, oltre a test di durata meccanica per confermare che le interconnessioni ottiche possono piegarsi senza rompersi o perdere dati.
Inoltre, i ricercatori hanno dimostrato che la tecnologia PWG, con un passo di 18 micrometri e l’impilamento di quattro PWG, consentirebbe di ottenere fino a 128 canali di connettività.
La documentazione tecnica è consultabile a questo link.
RIPRODUZIONE RISERVATA – © 2024 SHOWTECHIES – Quando la Tecnologia è spettacolo™ – E’ vietata la riproduzione e redistribuzione, anche parziale, dell’articolo senza autorizzazione scritta. Se desideri riprodurre i contenuti pubblicati, contattaci.
Immagini:Ryan Lavine per IBM
Commenta per primo