Hoeveel toegang geef je AI tot bedrijfsdata?

Tijdens een salesgesprek kwam de veiligheid van AI en bedrijfsinformatie ter sprake. Steeds meer organisaties willen AI inzetten zonder de controle over hun data te verliezen. Daarbij gaat het vooral om wat er met die informatie mag gebeuren. En wie er verantwoordelijk is als er iets fout gaat.

Een belangrijk onderscheid zit tussen informatie lezen en informatie wijzigen. Een AI kan gegevens uit verschillende bronnen nodig hebben om een goed antwoord te geven. Dat betekent niet dat dezelfde AI deze broninformatie ook moet kunnen aanpassen.

Binnen onze architectuur zijn lees- en schrijfrechten daarom bewust van elkaar gescheiden. De agent kan relevante productiedata raadplegen, maar deze niet rechtstreeks wijzigen. Nieuwe informatie, ervaringen en leerpunten worden afzonderlijk opgeslagen.

Zo blijft duidelijker zichtbaar welke informatie uit de oorspronkelijke bron komt en welke informatie door de agent zelf is toegevoegd. Technisch werken we hiervoor onder andere met gescheiden databronnen en rechten.In deze eigen data(bases) heeft de AI volledige toegang en alle rechten.

Het uitgangspunt is eenvoudig: AI hoeft niet overal bij te kunnen om waardevol te zijn. Door rechten bewust te beperken, verklein je risico’s en houd je meer controle over wat een agent met bedrijfsinformatie kan doen.

Hoeveel toegang zou jij AI geven tot jouw bedrijfsinformatie? Deel jouw afweging in de reacties.

Meer weten over de architectuur? Op 13 oktober geeft @Martijn de Riet hierover een presentatie tijdens de bijeenkomst van de AI Construction Club: https://www.linkedin.com/posts/aiconstructionclub_aiconstructionclub-ai-bouw-activity-7505989975729954816-zZSP?utm_source=social_share_send&utm_medium=member_desktop_web&rcm=ACoAAAEeh2oBAnuhof-ymK8MuRmr72nBuA3yIMc Na die tijd komt er ook een artikel met technische verdieping op knowledge.bimforce.com. Maar je kunt natuurlijk ook altijd contact opnemen.

#AI #AIagents #AIsecurity #informatiebeveiliging #trustbydesign