Google DeepMind, het Britse onderzoekslaboratorium van Google wat zich volledig richt op AI, komt op de proppen met BlockRank. Dat is een nieuw algoritme voor grote taalmodellen. De technologie belooft sneller en efficiënter te werken dan bestaande systemen. Hoewel het nog niet in productie is, kan BlockRank de toekomst van AI-gedreven zoekmachines opnieuw vormgeven.
Hoe werkt BlockRank?
BlockRank pakt een belangrijk knelpunt aan binnen zogeheten In-context Ranking (ICR). Bij ICR leest een model een zoekopdracht en meerdere documenten tegelijk om te bepalen welke informatie het belangrijkst is. Het probleem daarvan is, dat het proces traag is en kostbaar.
De reden ligt in de ‘aandacht’-mechanismen van taalmodellen. Elk woord vergelijkt zichzelf met elk ander woord. Bij de check van honderden documenten loopt dit al snel exponentieel uit de hand. BlockRank lost dit op door de structuur anders in te richten. Elk document focust alleen op zichzelf en de ingegeven instructies.
De querysectie krijgt wel toegang tot alle documenten. Hierdoor kan het model vergelijkingen maken en het beste antwoord selecteren. De aandachtskosten groeien hierdoor lineair oftewel veel sneller in plaats van kwadratisch, wat juist langzaam is.
Snelheid en prestaties
In testen met taalmodel Mistral-7B was BlockRank 4,7 maal sneller dan standaardmodellen bij het rangschikken van 100 documenten. In een seconde tijd werd er zonder problemen opgeschaald naar 500 documenten, met in totaal 100.000 tokens.
De prestaties zijn vergelijkbaar met of beter dan toonaangevende rankers zoals RankZephyr en FIRST. Zo’n ranker is een model of algoritme dat de volgorde van een lijst met zoekresultaten verfijnt. Dat blijkt uit benchmarks waaronder MSMARCO, Natural Questions en BEIR. De conclusie op dit moment is dat BlockRank sneller werkt en daarbij ook kwalitatief sterke resultaten levert.
Waarom dit belangrijk is
BlockRank is vooralsnog een onderzoeksproject. Of en wanneer het wordt geïntegreerd in Google Zoeken of bijvoorbeeld Google Gemini is onbekend. Het toont wel de richting waarin zoektechnologie beweegt: sneller, slimmer en meer gericht op gebruikersintentie.
Google DeepMind blijft het concept van ‘rangschikken’ in het AI-tijdperk herdefiniëren. De ontwikkeling van AI-modellen brengt ook nieuwe veiligheidsvraagstukken met zich mee, zoals we eerder al schreven.