IBM Research heeft een nieuwe technologie ontwikkeld die optische connecties direct naar chips brengt. Co-packaged optics moet de energie-efficiëntie verbeteren en de bandbreedte vergroten voor het trainen en implementeren van grote taalmodellen in datacenters.
IBM heeft nieuwe technologie ontwikkelt waarbij optische connectors geïntegreerd zitten op chips en printplaten. Die technologe krijgt de naam co-packaged optics. Ze moet datacenters zuiniger, maar ook sneller maken. Zoals veel innovaties vandaag, vermeldt IBM ook deze in één adem met AI.
Traditionele datacenters gebruiken elektrische signalen voor communicatie tussen componenten. Dat proces is energie-intensief en beperkt in snelheid. IBM’s co-packaged optics-technologie vervangt de elektrische verbindingen door optische verbindingen, waardoor data efficiënter en sneller worden verzonden. IBM maakt dat mogelijk door gebruik te maken van polymeren optische golfgeleiders. Volgens het bedrijf is de doorbraak een wereldprimeur.
De nieuwe methode verhoogt de beachfront density — het aantal optische vezels dat aan de rand van een chip kan worden verbonden — met een factor zes. Datacenters kunnen hierdoor rekenen op een energieverbruik van minder dan één picojoule per bit, vergeleken met vijf picojoule bij traditionele elektrische verbindingen. Het resultaat is een energiebesparing van meer dan 80 procent.
Toepassing in generatieve AI
IBM kadert de technologie specifiek binnen de groeiende behoefte aan bandbreedte bij generatieve AI. Grote taalmodellen vereisen steeds snellere verbindingen tussen chips en datacenters. Door optische verbindingen direct op circuitborden en chips te integreren, kunnen trainingsprocessen voor AI-modellen versnellen. Bovendien kunnen GPU-accelerators effectiever werken, omdat zij minder tijd verspillen aan het wachten op data.
IBM heeft de polymeren-optische golfgeleiders uitvoerig getest, inclusief stressproeven bij temperaturen van -40 °C tot 125 °C, om de betrouwbaarheid en duurzaamheid te waarborgen. Deze tests werden uitgevoerd in de IBM-faciliteiten in New York en Québec.
De technologie is ontworpen om compatibel te zijn met standaard productiemethoden, wat productie op schaal mogelijk maakt. IBM werkt nu aan verdere ontwikkeling en samenwerking met partners om co-packaged optics beschikbaar te maken voor commerciële toepassingen.