AMD vergroot focus op AI-chips met overname van start-up Taalas

AMD neemt AI-chipmaker Taalas over voor een onbekend bedrag. De chips van de Canadese start-up vormen een aanvulling op het huidige AI-platform van AMD, met daarin onder meer de Helios-oplossingen van het bedrijf.

Taalas werd in 2023 opgericht en ontwikkelt chips die dataflows voor inferentie optimaliseren. Dat vermindert knelpunten in rekenkracht en geheugen die voorkomen bij generieke architecturen, stelt AMD in een persbericht.

De technologie van Taalas wordt geïntegreerd in het bestaande AI-portfolio van AMD. Dat portfolio bestaat onder meer uit de Helios-rackscaleoplossingen, de Instinct-gpu's, EPYC-cpu's en ROCm-software.

AMD is verder van plan om met de Instinct-gpu's en de technologie van Taalas oplossingen op systeemniveau te ontwikkelen. "AMD bouwt een full-stack AI-platform dat klanten de flexibiliteit geeft om de juiste compute-oplossingen in te zetten voor iedere AI-workload", zegt Vamsi Boppana, senior vice president van de AI Group bij AMD. De technologie van Taalas draagt daaraan bij door 'onderscheidende inferentieprestaties en -efficiëntie te leveren'.

De relevante autoriteiten moeten de overname nog goedkeuren.

Bron: AMD

Reacties (13)

[Glowingmonx]

https://chatjimmy.ai/ is een demo van Taalas waarbij ze het Llama 3.1 8B model gequantiseerd en op hun chip gebakken hebben. Ben benieuwd of het ze binnenkort lukt om dit op te schalen naar een groter model met een hogere nauwkeurigheid.

[hendymen]

Immens snel! Zojuist geprobeerd met een geavanceerde prompt op Llama 3.1 8B op een 4090 FE zo'n 38sec koste op , koste het jimmy 'maar' 0,005s, ofwel 5ms.

[droofx]

Voor zover ik begrepen heb kan dit bedrijf kleine AI modellen in hardware programmeren waardoor ze minstens een factor 10 sneller worden, vergelijkbaar met ASICs voor bitcoin minen

https://www.cnbc.com/2026/08/06/amd-buys-taalas-startup-that-hardwires-ai-models-into-its-silicon.html?msockid=23c9166ea6166891180c00a5a76069ef

https://qz.com/amd-acquires-taalas-ai-inference-chip-startup-080726

[Gropah]

Zo snel als dat de modellen nu gaan en zo veel verschillende modellen makers er nog zijn, ben ik wel benieuwd hoe model/maker specifiek dit is en hoeveel tijd er nodig is om de hardware te maken. Hosters van modellen zullen hier vast in geïnteresseerd zijn, want het maakt modellen waarschijnlijk veel sneller en/of goedkoper, naar als het 6 maanden duurt om te maken en dan voor 1 specifiek model is, kan ik mij voorstellen dat het moeilijk word om (op dit moment) goed te kunnen gebruiken.

[walletje-w]

Niet alleen dat. Maar denk ook aan edge compute waarbij je lokaal een ai model kunt hebben draaien wat efficiënt en snel is. Denk bijvoorbeeld aan medische producten of voor in een auto. Zo zou er ook getest kunnen worden op een bepaalde versie die daardoor gecertificeerd kan worden. (Ja brengt het nadeel van moeilijke hardware upgrades mee) maar vaak is certificering een langer en lastiger process dan een hardware module vervangen.

Maar ook zou je geavanceerdere ai op een battery powered device kunnen hebben draaien voor beveiliging, autonoom opererende robots, etc.

[Dat_Doen_We_FF]

Dus eigenlijk een FPGA?

[kokx]

Nee, ze doen dit met ASIC's. Dus modelspecifieke chips.

Ze zijn dus niet opnieuw te programmeren zoals met een FPGA wel het geval is.

[Dat_Doen_We_FF]

Excuus, ik las het alsof ze dat on the fly konden veranderen. Klopt ASICs weldegelijk ja.

<leest terug>

Ik snap nu ook waarom:

AI modellen in hardware programmeren

Dat leest voor mij alsof het aan te passen is.

[loekf2]

ASIC ... ? Is dat niet gekkenwerk in een wereld waar LLMs (machine learning) nog steeds in een rat race zit naar krachtigere modellen die minder hardware gebruiken ?

ASIC duurt meestal ~18 maanden van design, layout, simuleren/testen naar tapeout en fab. + miljoenen $$. Als je pech (foutje... in je design of processing) hebt ben je nog langer bezig.

[kondamin]

neen, echt model gebakken op de chip.
FPGA kan later nog aangepast worden maar is een stuk trager en verbruikt veel meer energie.

[andMax]

Ian Cutress heeft hier toevallig net een video over gemaakt, en daarin zit een demo van https://chatjimmy.ai/. Deze chips worden hiervoor gebruikt en de reactie van de LLM komt echt onvoorstelbaar snel terug.

[droofx]

Een leuke video hierover:

YouTube: Why did AMD just buy this REALLY WEIRD chip company?

[Dat_Doen_We_FF]

Voor iemand die praktisch alleen een nvidia gpu heeft voor workloads die toen nog alleen op nvidia werkt, kan ik nu ook gewoon AMD gebruiken om de nieuwste modellen enzo te draaien? PyTorch icm rocM die een beetje meekomt?