We zijn allemaal onder de indruk van AI. Microsoft heeft Copilot voor Office 365 uitgerold waardoor miljoenen Office 365 gebruikers gaan profiteren van de AI-assistent. Maar wat gebeurt er nu eigenlijk onderwater als je een prompt invoert of als Copilot suggesties geeft in je Office 365 applicaties?

Copilot voor Microsoft 365 wordt aangestuurd door kunstmatige intelligentie welke bestaat uit verschillende kerncomponenten. Microsoft Copilot combineert de kracht van LLM (Large Language Models), NLP (Natural Language Processing) met de gegevens van je organisatie in Microsoft 365-apps. Door deze componenten te begrijpen, krijg je inzicht in hoe Copilot voor Microsoft 365 intelligente aanbevelingen en suggesties levert, beginnend met de gebruikersprompt en eindigend met het antwoord dat je krijgt. Laten we de technologie achter Copilot eens doornemen.

Copilot en Large Language Models

Large Language Models (LLM’s) zijn kunstmatige intelligentie modellen. Het “Large” in LLM staat voor zowel de grootte van de modellen in termen van het aantal parameters die ze bevatten, als de enorme hoeveelheid gegevens waarop ze getraind zijn. In plaats van alleen maar te voorspellen of te classificeren, kunnen LLM’s volledig nieuwe inhoud produceren. Wanneer ze worden toegepast op tekst, kunnen LLM’s contextueel relevante en syntactisch correcte antwoorden genereren op basis van de ingevoerde prompts.

In de context van Copilot voor Microsoft 365 zijn LLM’s de motor achter de mogelijkheden van Copilot. Microsoft’s Azure OpenAI Service host deze modellen, die Copilot gebruikt om gebruikersinput te begrijpen en relevante antwoorden te genereren. Door deze modellen toe te passen, helpt Copilot met allerlei taken, terwijl de privacy en gegevensintegriteit gewaarborgd blijven. De gegevens blijven namelijk geïsoleerd in je eigen tenant. Deze werkwijze zorgt samen met encryptie voor optimale privacy bij de toepassing van AI.

NLP, lezen, begrijpen en antwoorden

Naast LLM maakt Copilot ook gebruik van Natural Language Processing (NLP). NLP is de technologie om tekst te lezen, te begrijpen en te genereren zoals mensen dat zouden doen. NLP is gebaseerd op neurale netwerken en stelt Copilot in staat om tekstuele inhoud te analyseren, de volledige context en betekenis ervan te begrijpen en suggesties in natuurlijke taal te genereren. Onderdelen van NLP zijn:

• Tokenisatie, dit vereenvoudigt complexe paragrafen door tekst op te splitsen in kleinere stukken, zoals woorden of zinnen.
• Vertaling helpt bij meertalige taken, zodat Copilot gebruikers in verschillende talen kan helpen.

Copilot en de Semantic Index, visualiseren en relaties leggen

Copilot maakt gebruik van de Semantic Index dit is een enorme kennisgrafiek met miljarden objecten en concepten die relaties bevatten. De Semantic Index maakt een ingewikkelde kaart met een combinatie van je persoonlijke en bedrijfsgegevens. Het legt belangrijke verbanden en identificeert significante relaties, net als het menselijk brein. Dit gaat veel verder dan het zoeken op trefwoorden, de relatie tussen gegevenselementen worden geïnterpreteerd en gecodeerd. Het stelt gebruikers in staat om snel te zoeken door miljarden vectoren (wiskundige representaties van kenmerken of attributen) om je te verbinden met de meest relevante en bruikbare informatie in een organisatie.

Semantic Search legt de semantische betekenis van je opdracht vast. Door vectoren te gebruiken, kan Semantic Search relaties tussen verschillende woordvormen begrijpen, zoals bijvoorbeeld NL, Nederland en Holland. Ze betekenen allemaal hetzelfde. Semantic Search legt synoniemen vast om de hoeveelheid informatie waarin kan worden gezocht uit te breiden.

Microsoft Graph maakt het vervolgens mogelijk om in applicaties alleen de data te presenteren die mogelijk relevant is voor de eindgebruiker. Dit betreft data afkomstig van Office 365 producten. Door je Microsoft Graph-gegevens te analyseren – waaronder e-mails, documenten, agenda’s, chats en meer – en tegelijkertijd samen te werken met LLM’s, krijg je gepersonaliseerde, relevante en bruikbare reacties op je prompts.

Microsoft Graph, uitbreiden buiten je eigen dataset

Organisaties kunnen Copilot voor Microsoft 365 uitbreiden met behulp van Microsoft Graph-connectors. Hoewel Copilot gebruik maakt van de apps en gegevens binnen het Microsoft 365 ecosysteem, zijn veel gebruikers ook afhankelijk van verschillende externe tools en diensten voor werkbeheer en samenwerking. Met Microsoft Graph-connectoren kan je de Microsoft 365-omgeving integreren met externe bedrijfssoftware en -diensten die je gebruikt.

Het stelt Copilot voor Microsoft 365 in staat om de relevante informatie te integreren. Daarbij houdt Copilot rekening met machtigingen, gegevensbeveiliging en compliancy richtlijnen. Er worden alleen antwoorden gegenereerd op basis van de informatie waartoe de gebruiker toegang heeft.

Hoe werkt Copilot in 6 stappen

Samenvattend kunnen we de werkwijze van Copilot opdelen in zes stappen, beginnend met de gebruikersprompt en eindigend met het antwoord.

1. Copilot voor Microsoft 365 ontvangt een invoeraanvraag van een gebruiker in een app, zoals Word of PowerPoint.
2. Copilot verwerkt de prompt door middel van een werkwijze die grounding wordt genoemd. Dit verbetert de specifieke kenmerken van de prompt, zodat je antwoorden krijgt die relevant zijn. Dit gebeurt gedeeltelijk door een beroep te doen op Microsoft Graph en de Semantic Index. De Semantic Index beperkt de gebruikersgegevens die Copilot voor Microsoft 365 gebruikt tot de documenten en gegevens die al zichtbaar zijn voor de gebruiker via de bestaande toegangscontroles op basis van Microsoft 365-rollen.
3. Dit ophalen van informatie noemen we retrieval-augmented generation (RAG). Hierdoor kan Copilot precies het juiste type informatie leveren als invoer voor een LLM. Daarbij combineert Copilot deze gebruikersgegevens met andere input, zoals informatie uit kennisbanken, om de prompt van de gebruiker te verbeteren.
4. Copilot voor Microsoft 365 neemt het antwoord van de LLM en vervolgens start er een post-processing fase.
5. Deze nabewerking bevat meer grounding oproepen naar Microsoft Graph, responsible AI-controles, securitycontroles, compliance en privacy checks en het genereren van commando’s voor software.
6. Copilot voor Microsoft 365 stuurt de gebruiker dan een antwoord en eventuele opdrachten voor de applicatie.

Conclusie

Microsoft Copilot haalt inzichten uit de gegevens en content van een organisatie om gebruikers relevante aanbevelingen te doen en gebruikt daarbij drie belangrijke aspecten van Kunstmatige intelligentie;

1. Large Language Models (LLM’s)
2. Natural Language Processing (NLP)
3. Semantic Index en knowledge graph

Door deze componenten te begrijpen, krijg je inzicht in hoe Copilot for Microsoft 365 intelligente aanbevelingen en suggesties levert en daarmee direct bijdraagt aan productiviteit en innovatie in je organisatie.

Test en leer voordat je met Copilot aan de slag gaat

Specifiek als het gaat om beveiliging is het belangrijk om te bouwen op deskundig advies. Copilot maakt gebruik van alle gegevens binnen Microsoft 365, wat verschillende voordelen met zich meebrengt, maar ook risico’s. Er is altijd een kans dat medewerkers toegang krijgen tot gevoelige informatie die niet voor hen bedoeld is. Daarom is het verstandig om Copilot geleidelijk in te voeren, zodat de IT-organisatie ervaring opdoet en de juiste keuzes worden gemaakt bij de implementatie.

Wil je graag meer weten over Copilot of de Moderne Werkplek? Kijk dan snel verder of neem contact op met Dave van Straten.