Laptops zullen in 2024 "AI PC's" worden: Want AMD en Intel brengen nu nieuwe CPU's op de markt die speciale hardware bevatten voor kunstmatige intelligentie. Dit is wat je kunt verwachten van de nieuwe generatie CPU's.
Afbeelding: IM Imagery / Shutterstock.com
AI is de megatrend van 2024, en de nieuwe mobiele processors van AMD en Intel zijn ook gericht op kunstmatige intelligentie: AMD Ryzen 8000 en Intel Core Ultra hebben speciale hardware die AI-taken sneller uitvoert. Beide bedrijven hopen dat dit een belangrijk argument zal zijn om een nieuwe notebook te kopen - vooral met het oog op een mogelijke Windows 12.
Intels nieuwe processors, met de codenaam "Meteor Lake", zijn vooral interessant vanuit technisch oogpunt: ze hebben een
modulaire structuur en zijn opgebouwd uit verschillende chips, ook wel tegels genoemd.
Intel kopieert hiermee een proces dat AMD al sinds 2017 gebruikt voor server- en high-end CPU's en sinds 2019 voor desktop
CPU's. In ruil daarvoor gebruikt AMD een hybride technologie in enkele nieuwe modellen uit de Ryzen 8000-serie "Hawk Point", zoals Intel al gebruikt sinds de 12e Core-generatie Alder Lake: Een processor bestaat uit krachtige en zuinige kernen, die afhankelijk van de benodigde rekenkracht worden gebruikt.
AMD en Intel presenteerden de nieuwe mobiele processors eind vorig jaar. Notebooks die ermee zijn uitgerust zijn echter pas
sinds kort te koop in de EU. We leggen uit wat de voordelen zijn van de nieuwe mobiele CPU's, of ze van een laptop een echte AI PC kunnen maken en wie er een voorsprong heeft als het gaat om technische innovaties.
Nieuw: AI-processors van AMD en Intel voor laptops
Alles is nieuw bij Intel: De notebookprocessors voor 2024 krijgen een nieuwe naam, een ander ontwerp en, voor het eerst, speciale hardware voor AI-berekeningen.
Afbeelding: Intel
De nieuwe processors bevatten een zogenaamde NPU (Neural Processing Unit) als extra rekeneenheid. Afhankelijk van de toepassing voert deze de AI-berekening alleen uit of werkt deze samen met de CPU en GPU, de andere processorcomponenten.
De NPU's voeren de AI-functies lokaal op de computer uit - jouw input en het antwoord van de AI worden dus niet via het internet verstuurd, maar blijven onder jouw controle.
Hierdoor kunnen bepaalde AI-taken sneller worden uitgevoerd, omdat je wachttijden voor tools zoals Chat-GPT of Midjourney kunt vermijden: Dit komt omdat de lokale AI alleen jouw vraag hoeft te verwerken en niet miljoenen andere gebruikers tegelijkertijd hoeft te bedienen.
Snelle responstijden zijn ook belangrijk voor AI-toepassingen die in realtime moeten draaien, zoals beeldoptimalisatie in
videovergaderingen of vertalingen tijdens telefoongesprekken. De AI kan ook worden gebruikt als je geen internetverbinding hebt, wat kan gebeuren als je op reis bent met je laptop.
Het grootste voordeel is echter gegevensbescherming: met een online AI-toepassing moet je ervan uitgaan dat het je invoer en gegevens opslaat, tenminste voor trainingsdoeleinden. Dit is niet wenselijk als het toegang krijgt tot vertrouwelijke documenten, bijvoorbeeld als het een samenvatting moet maken van privé e-mails of een interne presentatie van de financiële gegevens van je bedrijf.
Privacy wordt nog belangrijker als jij of je bedrijf je eigen AI-toepassingen ontwikkelt die je traint met jouw gegevens om bijzonder geschikte resultaten te verkrijgen.
Maar de rekenkracht van de AI-processors in de notebook is natuurlijk aanzienlijk lager dan die van de AI-servers op het internet, die Chat-GPT bijvoorbeeld gebruikt om zijn antwoorden te genereren. Als gevolg hiervan kunnen lokale AI-tools minder doen dan een online AI of er langer over doen om taken te voltooien - bijvoorbeeld bij het maken van afbeeldingen op basis van een prompt.
Lokale AI kan ook minder gegevens analyseren.
De AI-chips in de nieuwe processors zijn ontworpen om de beeld- en geluidskwaliteit van videovergaderingen in realtime te verbeteren, wat bijvoorbeeld in Windows kan worden geactiveerd met de functie "Studio Effects".
Afbeelding: IDG
Daarom werken de NPU's bijzonder goed met AI-toepassingen die geen grote hoeveelheden gegevens nodig hebben voor een goed resultaat of waarbij extra gegevens de nauwkeurigheid van het antwoord nauwelijks beïnvloeden. Dit zijn bijvoorbeeld AI-tools die automatisch de beeld- en geluidskwaliteit tijdens videoconferenties verbeteren, spraakopnames omzetten in tekst of de inhoud van documenten samenvatten.
Windows Studio Effects kan worden gebruikt voor videoconferenties op de nieuwe notebooks met NPU: Je kunt ze activeren via de snelle instellingen of in de Windows-instellingen voor de laptopcamera. De AI zorgt ervoor dat je tijdens videovergaderingen altijd in het midden van het beeld blijft, dat je oogcontact houdt met de andere deelnemers, zelfs als je niet direct in de camera kijkt, dat achtergrondgeluiden worden gefilterd en dat de achtergrond wazig in het camerabeeld verschijnt.
Op dit moment lijkt Microsoft de functie echter alleen in te schakelen op laptops waarvan de camera en microfoons aan bepaalde specificaties voldoen - dus Windows Studio Effects kan ook ontbreken op een huidige laptop met een NPU.
Sommige fabrikanten bieden echter ook soortgelijke functies op hun notebooks in hun eigen tools, zoals Acer met Purified-View en Purified-Voice.
Bepaalde filtereffecten in beeld- en videobewerkingsprogramma's zoals Adobe Photoshop en Blackmagic Davinci Resolve kunnen ook via de NPU worden uitgevoerd.
Zoals deze voorbeelden laten zien, maken de nieuwe NPU's in de meeste gevallen geen functies mogelijk die nog niet bestaan.
Tot nu toe waren CPU's of GPU's echter verantwoordelijk voor deze taken, die vooral een krachtige grafische kaart snel kan uitvoeren - zij het ten koste van een hoog energieverbruik.
NPU's werken daarentegen efficiënter omdat hun hardware beter is aangepast aan AI-berekeningen - ideaal voor gebruik in notebooks, waar ze de CPU en GPU ondersteunen en dus zorgen voor een betere batterijlevensduur en een stillere werking dankzij een lagere systeembelasting.
Hoe goed de NPU, CPU en GPU samenwerken bij lokale AI-berekeningen hangt af van de betreffende toepassing. AMD en Intel willen ontwikkelaars er daarom van overtuigen om AI-programma's aan te passen aan hun platformen en bieden hiervoor geschikte tools, zoals Intel met de Open-Vino programmeeromgeving of AMD met Ryzen AI Software.
Meteor Lake: de nieuwe processors van Intel
| Prozessor | Cores: P, E, LPE | Takt P-Cores (std / max)x | Takt E-Cores (std / max) | Takt LPE-Cores (std / max) | Vermogensopname Watt (std / max) |
| Core Ultra 9 185H | 6, 8, 2 | 2,3 / 5,1 | 1,8 / 3,8 | 1,0 / 2,5 | 45 / 115 |
| Core Ultra 7 165H | 6, 8, 2 | 1,4 / 5,0 | 0,900 / 3,8 | 0,700 / 2,5 | 28 / 115 |
| Core Ultra 7 155H | 6, 8, 2 | 1,4 / 4,8 | 0,900 / 3,8 | 0,700 / 2,5 | 28 / 115 |
| Core Ultra 5 135H | 4, 8, 2 | 1,7 / 4,6 | 1,2 / 3,6 | 0,700 / 2,5 | 28 / 115 |
| Core Ultra 5 125H | 4, 8, 2 | 1,2 / 4,5 | 0,700 / 3,6 | 0,700 / 2,5 | 28 / 115 |
| Core Ultra 7 165U | 2, 8, 2 | 1,7 / 4,9 | 1,2 / 3,8 | 0,700 / 2,1 | 15 / 57 |
| Core Ultra 5 135U | 2, 8, 2 | 1,6 / 4,4 | 1,1 / 3,6 | 0,700 / 2,1 | 15 / 57 |
| Core Ultra 5 134U | 2, 8, 2 | 0,700 / 4,4 | 0,500 / 3,6 | 0,400 / 2,1 | 9 / 30 |
| Core Ultra 5 125U | 2, 8, 2 | 1,3 / 4,3 | 0,800 / 3,6 | 0,700 / 2,1 | 15 / 57 |
Hoe vind ik de AI-processor in een nieuwe notebook?
Een notebook NPU moet geactiveerd zijn in het systeem zodat het AI-berekeningen kan uitvoeren. Op de meeste laptops vind je een overeenkomstige optie in de Uefi bios, die desgewenst ook kan worden gebruikt om de NPU uit te schakelen. Het wordt meestal geactiveerd door de fabrikant af-fabriek.
Daarnaast moet er een geschikt NPU-stuurprogramma op het systeem worden geïnstalleerd - de fabrikant zou hier ook voor moeten hebben gezorgd. De NPU's kunnen in de toekomst extra functies ondersteunen met stuurprogramma-updates. Bij AMD zijn de NPU-stuurprogramma's opgenomen in de stuurprogramma's voor de grafische kaart, de "AMD Software: Adrenalin Edition".
Zodra het stuurprogramma is geïnstalleerd, verschijnt de NPU als onderdeel in Windows Apparaatbeheer: Op een notebook met een AMD platform heet het item "AMD IPU Device"; op een notebook met een Intel processor verschijnt de NPU in de categorie "Neural processors" als "Intel AI Boost".
In Windows Taakbeheer kun je het gebruik van de NPU zien onder het tabblad "Prestaties" in een aparte grafiek - net als bij de CPU en GPU. Overigens zijn de NPU-stuurprogramma's alleen beschikbaar voor Windows 11, dus je kunt de AI-processor niet onder Windows 10 gebruiken.
Bij een nieuwe notebook kun je ervan uitgaan dat de NPU is ingeschakeld en zijn werk doet, mits de geïnstalleerde AI-programma's dit ondersteunen.
De situatie is anders voor laptops die al enige tijd verkrijgbaar zijn met een processor uit de Ryzen 7040-serie van AMD: deze bevatten ook een NPU die iets minder krachtig is dan de AI-processor uit de nieuwe 8040-serie.
Deze wordt echter in veel laptops niet geactiveerd omdat er naast het stuurprogramma een nieuwe Uefi Bios-versie nodig is, wat de fabrikant bespaart op het programmeren. Als je een overeenkomstige laptop hebt, moet je de fabrikant vragen of ze van plan zijn de AI-processor voor dit model te activeren via een update.
Nieuwe namen voor de nieuwe CPU's van Intel
De eerste notebooks met Core Ultra zijn al beschikbaar: Acer's Swift Go 16 heeft bijvoorbeeld een OLED-scherm en een 1440p camera aan de voorkant.
Afbeelding: IDG
Intel introduceert niet alleen de NPU bij de notebookprocessors van 2024. Ook de naamgeving van de modellen verandert en vooral hun structuur.
Na 14 jaar en 14 generaties schaft Intel de "i" in Meteor Lake af: de huidige processors heten Core Ultra 5 en Core Ultra 7.
Hun modelnummer bestaat uit drie cijfers en één letter:
het eerste cijfer geeft de processorgeneratie aan die Intel begint met Core Ultra, vandaar dat alle nieuwe modellen een 1
hebben. De volgende cijfers definiëren het respectieve model - hoe hoger het cijfer, hoe beter de prestaties.
Een Core Ultra 9 heeft 85, een Core Ultra 7 heeft 65, 64 of 55, een Core Ultra 5 heeft 35, 34 of 25 na de 1. Zoals voorheen geeft de letter aan het einde het beoogde stroomverbruik aan:
H betekent een "basisvermogen" van 45 of 28 watt en een maximaal opgenomen vermogen van 115 of 64 watt. U staat voor 15 of 9 watt en een maximum van 57 of 30 watt. De H processors worden meestal gebruikt in grotere notebooks, de U modellen in lichte en platte laptops. De eerdere processors met het achtervoegsel "P" zijn komen te vervallen.
Medewerkers in het bedrijf: AI-vaardigheden brengen deze voordelen
Dit is echter slechts een ruwe categorisering, want de prestaties die een processor daadwerkelijk kan oproepen in een notebook worden door de fabrikant voor elk model bepaald, afhankelijk van het koelsysteem en het gewenste ventilatorvolume.
Het notebookassortiment van Intel wordt er niet overzichtelijker op: de Core i familie leeft voort, momenteel met de 14e generatie en de processors van de Raptor Lake HX familie, die het bekende naamgevingsschema volgen en bijvoorbeeld Core i9-14900HX of Core i7-14700HX heten.
De nieuwe benaming neemt daarentegen de modelserie "Core processors (Series 1)" over met processors zoals de Core 7 150U of de Core 5 120U. Ondanks deze benaming zijn ook deze CPU's gebaseerd op de bekende Raptor Lake generatie en hebben ze dus geen NPU.
Alleen de Core Ultra-modellen zijn echt nieuw.
Tegeldesign: deze technologie zit in Meteor Lake
De Core Ultra processoren bestaan uit modules, de zogenaamde tiles. Elke module bevat specifieke functionele eenheden, bijvoorbeeld de CPU-kernen (CPU-tegel), de grafische processor (GPU-tegel) en de nieuwe NPU (SoC-tegel).
Afbeelding: Intel
Dit komt omdat Intel een andere structuur gebruikt voor Meteor Lake: de processor bestaat uit vier modules of tegels. Elke tegel vervult een specifieke taak - de compute-tegel bevat de CPU-kernen, de grafische tegel bevat de grafische hardware, de SoC-tegel bevat de NPU en de I/O-tegel bevat de controllers die de systeemverbindingen regelen, bijvoorbeeld Thunderbolt, USB, netwerk of beeldscherm. Dankzij het ruimtebesparende Foveros-ontwerp kunnen de tiles worden ondergebracht op een gemeenschappelijke basis (base tile), die ze met elkaar verbindt.
Tot nu toe werden functionele eenheden van de processor zoals CPU, GPU en controller ondergebracht in een gemeenschappelijke chip (die) - een zogenaamd monolithisch ontwerp. Dit maakt de productie in principe eenvoudiger en maakt hoge prestaties mogelijk, omdat de chipcomponenten via korte paden met elkaar verbonden zijn.
De modulaire structuur maakt processors echter efficiënter omdat bijvoorbeeld tegels die niets te doen hebben uitgeschakeld kunnen worden. De productie is ook goedkoper en flexibeler omdat tegels van verschillende fabricageprocessen gecombineerd kunnen worden.
Sommige gebruiken beproefde processen met weinig afval. De tegels kunnen ook door verschillende chipfabrikanten worden gebouwd, wat de beschikbaarheid verbetert. In Meteor Lake bouwt Intel bijvoorbeeld de compute-tegel met behulp van het Intel 4-proces in Ierland, terwijl de SoC-tegel en de grafische tegel afkomstig zijn van TSMC in de N6- en N5-bouwwijzen.
Vooruitgang in productie kan snel worden geïmplementeerd voor individuele tiles zonder het processorontwerp te hoeven veranderen.
En last but not least kunnen processors specifieker worden samengesteld op basis van prijs en doel door Intel die tiles met verschillende functies combineert.
De nieuwe AMD processors zijn vooral te vinden in lichtgewicht gaming notebooks zoals de Asus ROG Zephyrus G14. Hier zorgt echter vooral de extra grafische kaart voor snelle AI-berekeningen.
Afbeelding: Asus
Met de Meteor Lake processors moeten vooral de compute tile en de SoC tile meer rekenkracht en batterijduur bieden:
de compute tile bevat maximaal zes snelle P-cores en acht zuinige E-cores - Intel gebruikt ook de hybride architectuur in de nieuwe processors, die al in gebruik is sinds de 12e core-generatie Alder Lake.
De CPU-kernen van Meteor Lake zijn gebaseerd op de verbeterde Redwood Cove en Crestmont microarchitecturen.
Twee extra E-cores bevinden zich in de SoC-tegel, Intel noemt ze LPE-cores (Low Power Islands E-Cores): Ze voeren basale
computertaken en achtergrondprocessen uit zodat de processor de computertegel voor bepaalde taken volledig kan uitschakelen om stroom te besparen en de levensduur van de batterij te verlengen. De prestaties van de LPE-kernen zouden voldoende moeten zijn voor bijvoorbeeld videostreaming.
Meteor Lake brengt ook een update voor de Intel Thread Director: Deze hardware analyseert de systeembelasting en voorziet
Windows van informatie zodat het besturingssysteem optimaal over de verschillende kernen kan worden verdeeld. Anders dan voorheen worden de zuinige LPE- en E-kernen eerst gebruikt en worden de P-kernen alleen gebruikt als er hogere prestaties nodig zijn. Dit is bedoeld om de rekenefficiëntie van notebookprocessoren te verbeteren.
Hawk Point: De nieuwe notebookprocessoren van AMD
AMD en Intel willen zoveel mogelijk softwareleveranciers overtuigen om programma's aan te passen aan de functies van hun AI-processors: AMD werkt hiervoor samen met onder andere Adobe.
Afbeelding: IDG
AMD's huidige laptopprocessoren bieden minder nieuws. De Hawk Point-serie met de Ryzen 8040HS- en 8040U-modellen is een verbeterde nieuwe editie van de Phoenix Ryzen 7040-processors uit 2023. Ze maken net als deze gebruik van de
Zen 4-kernarchitectuur en TSMC bouwt de processors met behulp van het 4-nanometerproces.
Net als bij Meteor Lake zijn de nieuwe modellen met een stroomverbruik van 35 tot 54 watt (HS) en 15 tot 28 watt (U) geschikt voor mid-range en ultra-mobiele notebooks. Vergeleken met de 7040-serie heeft AMD naar eigen zeggen vooral de prestaties van de NPU met 60 procent verbeterd.
Terwijl alle HS-modellen de AI-processor bevatten, ontbreekt deze bij de meest betaalbare processors Ryzen 5 8540U en Ryzen 3 8440U in de U-serie.
Hawk Point: De nieuwe AMD-processors
| Prozessor | Kernen / Threads | Snelheid (std / max) | Vermogensopname Watt (std)[ |
| Ryzen 9 8945HS | 8 / 16 | 4,0 / 5,2 | 45 |
| Ryzen 7 8845HS | 8 / 16 | 3,8 / 5,1 | 45 |
| Ryzen 7 8840HS | 8 / 16 | 3,3 / 5,1 | 28 |
| Ryzen 7 8840U | 8 / 16 | 3,3 / 5,1 | 28 |
| Ryzen 5 8645HS | 6 / 12 | 4,3 / 5,0 | 45 |
| Ryzen 5 8640HS | 6 / 12 | 3,5 / 4,9 | 28 |
| Ryzen 5 8640U | 6 / 12 | 3,5 / 4,9 | 28 |
| Ryzen 5 8540U | 6 / 12 | 3,2 / 4,9 | 28 |
| Ryzen 3 8440U | 4 / 8 | 3,0 / 4,7 | 28 |
AI en TOP's: zo snel moet een AI-pc zijn
AMD en Intel leggen de nadruk op AI-prestaties in hun nieuwe processors. Ze gebruiken hiervoor de eenheid TOP's (TeraOP's, triljoenen rekenbewerkingen per seconde): AMD geeft 39 TOP's op voor de snelste Hawk Point-processoren, Intel tot 34 TOP's voor Meteor Lake.
Beide fabrikanten tellen de AI-prestaties van de CPU, GPU en NPU in de processor bij elkaar op.
TOP's maken het in theorie makkelijk om de AI-prestaties van hardware te vergelijken, maar in de praktijk is deze informatie niet geschikt.
Dit komt omdat het altijd afhangt van de AI-berekening en het AI-model dat daarvoor wordt gebruikt hoe snel een processor kan werken en welke rekeneenheden hij kan gebruiken.
Bij de processors die nu worden gepresenteerd, ligt de focus vooral op het efficiënt uitvoeren van AI-berekeningen: Het heeft immers weinig zin om grote AI-gegenereerde afbeeldingen te kunnen maken in bijvoorbeeld een laptop als de batterijduur daar enorm onder lijdt.
Belangrijk: De TOPs-waarde verwijst alleen naar hoe goed een processor berekeningen uitvoert voor een lokale AI die uitsluitend op de computer draait. Dit is niet belangrijk voor Chat-GPT, Windows Copilot en de meeste andere generatieve AI-toepassingen, omdat de computer alleen het resultaat uitvoert; de AI-berekening wordt uitgevoerd in de cloud.
TOP's kunnen echter binnenkort belangrijker worden: Volgens geruchten eist Microsoft in de toekomst een AI-prestatie van 40 TOP's voor Windows, wil een computer zich een AI-pc mogen noemen. Daarnaast zal er minstens 16 GB RAM nodig zijn.
Het is op dit moment onduidelijk of deze eisen betrekking hebben op een AI PC-zegel dat fabrikanten op de computer kunnen plakken of van toepassing zijn op een specifieke versie van Windows. Er wordt gespeculeerd dat Microsoft reclame wil maken voor een aankomende ARM-versie van Windows:
De enige huidige notebookprocessor die de 40 TOP's haalt zonder de hulp van een extra GPU is namelijk de Qualcomm Snapdragon X Elite met een AI-prestatie van 45 TOP's voor de NPU en een totale prestatie van 75 TOP's.
Het gerucht gaat dat de eerste mobiele computers met ARM Windows en Qualcomm processors halverwege dit jaar op de markt zullen komen.
AMD en Intel daarentegen zullen de 40 TOP's pas aan het eind van het jaar overschrijden met de nieuwe processorgeneraties Strix Point en Lunar Lake.
Publicatie: PCWELT
Auteur: Thomas Rau
Gerelateerd:
viewtopic.php?f=6&t=18&p=31#p31
N.B.: de tabellen zijn gerepareerd en de tekst is vloeiender gemaakt.