Intel en Weizmann Instituut boeken doorbraak in versnelling AI-modellen
Investing.com
Gepubliceerd 16.07.2025 17:42
Investing.com -- Intel (NASDAQ:INTC) Labs en het Weizmann Institute of Science hebben een nieuwe methode ontwikkeld die grote taalmodellen (LLM's) tot 2,8 keer sneller laat werken zonder in te leveren op kwaliteit, zo maakte het bedrijf bekend.
De doorbraak in 'speculatieve decodering' werd gepresenteerd op de International Conference on Machine Learning in Vancouver, Canada. Deze techniek stelt elk klein 'concept'-model in staat om elk groot taalmodel te versnellen, zelfs wanneer ze verschillende vocabulaires gebruiken.
"We hebben een fundamentele inefficiëntie in generatieve AI opgelost. Ons onderzoek laat zien hoe speculatieve versnelling een universeel instrument kan worden. Dit is niet alleen een theoretische verbetering; dit zijn praktische hulpmiddelen die ontwikkelaars nu al helpen om snellere en slimmere toepassingen te bouwen," aldus Oren Pereg, senior onderzoeker bij Intel Labs' Natural Language Processing Group.
Speculatieve decodering werkt door een klein, snel model te koppelen aan een groter, nauwkeuriger model. Waar een traditioneel LLM bij een vraag als "Wat is de hoofdstad van Frankrijk" woord voor woord genereert en daarbij bij elke stap aanzienlijke rekenkracht verbruikt, maakt het kleine hulpmodel bij speculatieve decodering snel een volledige zin zoals "Parijs, een beroemde stad", die het grote model vervolgens verifieert, waardoor er minder rekencycli nodig zijn.
De nieuwe methode verwijdert beperkingen die voorheen gedeelde vocabulaires of gezamenlijk getrainde modelfamilies vereisten, waardoor het praktisch toepasbaar wordt voor verschillende soorten modellen. De techniek is leveranciersonafhankelijk en werkt met modellen van verschillende ontwikkelaars en ecosystemen.
"Dit werk neemt een belangrijke technische barrière weg om generatieve AI sneller en goedkoper te maken," zei Nadav Timor, promovendus in de onderzoeksgroep van Prof. David Harel aan het Weizmann Institute. "Onze algoritmes maken geavanceerde versnellingen mogelijk die voorheen alleen beschikbaar waren voor organisaties die hun eigen kleine conceptmodellen trainen."
Het onderzoek introduceert drie nieuwe algoritmes die speculatieve codering loskoppelen van vocabulaire-afstemming. Deze algoritmes zijn al geïntegreerd in de Hugging Face Transformers open source bibliotheek, waardoor geavanceerde LLM-versnelling beschikbaar wordt voor miljoenen ontwikkelaars zonder dat er aangepaste code nodig is.
Dit artikel is vertaald met behulp van kunstmatige intelligentie. Raadpleeg voor meer informatie onze gebruiksvoorwaarden.
De app downloaden
Geschreven door: Investing.com
Handelen in financiële instrumenten en/of cryptovaluta gaat gepaard met een hoog risico, zoals de kans dat u het volledige of een deel van het geïnvesteerde bedrag verliest. Daarom is deze activiteit niet voor alle beleggers geschikt. De koersen van cryptovaluta zijn zeer veranderlijk en kunnen worden beïnvloed door externe factoren zoals financiële, regelgevings- of politieke gebeurtenissen. Als u op marge handelt, zijn de financiële risico's nog hoger.
Voordat u besluit te handelen in financiële instrumenten of cryptovaluta, moet u volledig op de hoogte zijn van de risico's en kosten die zijn geassocieerd met de handel op financiële markten. U dient hierbij rekening te houden met uw beleggingsdoelen, ervaring en bereidheid om risico te aanvaarden. Win indien nodig het advies van een expert in.
Fusion Media herinnert u eraan dat de gegevens die op deze website worden vermeld niet per definitie geheel actueel of accuraat zijn. De gegevens en koersen op de website zijn niet altijd verstrekt door een markt of beurs, maar kunnen ook afkomstig zijn van marktmakers. Daarom zullen de koersen mogelijk niet accuraat zijn en kunnen zij afwijken van de daadwerkelijke koers op een markt. Het zijn indicatieve koersen die niet geschikt zijn voor handelsdoeleinden. Fusion Media en de partijen die de op deze website vermelde gegevens verschaffen, aanvaarden geen aansprakelijkheid voor eventuele verliezen of schade als gevolg van uw handelstransacties of uw gebruik van de op deze website vermelde informatie.
Het is verboden de gegevens op deze website te gebruiken, op te slaan, te reproduceren, weer te geven, te wijzigen, versturen of verspreiden zonder expliciete schriftelijke toestemming vooraf van Fusion Media en/of de partij die de gegevens heeft verschaft. Alle intellectuele eigendomsrechten worden voorbehouden door de partijen en/of beurzen die de op deze website vermelde gegevens verschaffen.
Fusion Media zal mogelijk een vergoeding ontvangen van de adverteerders op de website op basis van uw interactie met hun advertenties.