The National Archives zocht AI-tools in de markt en onderwierp er drie tot vijf aan een grondige test met een paar van hun eigen bedrijfsdocumenten. Het plan was om na te gaan hoe de tools presteren bij het identificeren van documenten die wel en niet permanent bewaard moeten worden. Daarnaast wilde TNA ministeries helpen bij het gebruik van AI voor selectie. Daarbij werd nagegaan waar deze technieken in het selectieproces van de te archiveren stukken pasten.
Iron Mountain en The National Archives
Iron Mountain ondersteunt al jaren de overdracht van vele papieren documenten voor zowel TNA als enkele van de grootste Britse ministeries. Hierbij wordt ook InSight™ ingezet, waarbij de expertise van Iron Mountain op het gebied van contentanalyse, gegevensbeheer en informatiegovernance wordt gecombineerd met machine learning en artificial intelligence. Om inzicht te krijgen in de effectiviteit van AI in het proces van digitale selectie mocht Iron Mountain meedoen aan het AI for Digital Selection-project.
Beheer van meerdere bestandsformaten
In het proof-of-conceptonderzoek moesten meer dan 100 verschillende bestandstypen worden verwerkt, waaronder audio, video en tekstdocumenten. Sommige onbekende formaten werden tijdens de proef buiten beschouwing gelaten, maar uiteindelijk viel minder dan 10% van de bestanden buiten de studie. Vervolgens werden de bestanden in het onderzoek voor analyse in het content services platform van Iron Mountain geladen.
Wat hield de oplossing in?
Vaststellen wat moet worden overgedragen
Om de AI-mogelijkheden van InSightTM te demonstreren bij het identificeren van relevante bestanden, voorzag The National Archives Iron Mountain van gelabelde en ongelabelde datasets.
Verwijdering van gevoelige gegevens
Zelfs voor bestanden die openbaar worden, moet er een fase zijn waarin gevoelige informatie kan worden verwijderd. In een wereld vol papier is dat redigeren van informatie een menselijke handeling: documenten worden met de hand gemarkeerd of bewerkt. Met digitale forensische technologie gaat dat anders: woorden of zinnen worden waar nodig vervormd en verhuld.
Stappen naar succes
Voor de proef laadde Iron Mountain eerst de 17.000 testdocumenten in Google Cloud-opslag. Om ze volledig doorzoekbaar te maken werden de documenten verwerkt met OCR-technologie (optische tekenherkenning). Het documentverwerkingsplatform InSight™ deelde ze vervolgens in twintig vooraf bepaalde categorieën in via natuurlijke taalverwerking. Dit softwareproces ontcijfert de inhoud van een document en de contextuele nuances van de gebruikte taal. Daardoor werd alle informatie nauwkeurig uit de bestanden gehaald, ontstonden er verbanden tussen de data en werd zoeken makkelijker.
Dankzij de machine learning-mogelijkheden van InSight™ kon het projectteam het model trainen in een herhalend proces. Uiteindelijk behaalde de tool een F1-score van meer dan 85%. Dit waren andere resultaten:
- Duplicaten opgespoord om ze te verwijderen
- Gegevens voor permanente bewaring geïdentificeerd
- Entiteiten waaronder organisaties en personen geëxtraheerd
- Bestandsanalyse inclusief inhoudsoverzicht, leeftijdsoverzicht enz.
- Gemiddelde scores voor precisie en recall
Snellere overdracht in de toekomst
InSight™ zorgde voor het vereiste niveau van functionaliteit, documentclassificatie en duplicaatdetectie. We zijn dankbaar The National Archives te kunnen ondersteunen met dit programma van nationaal belang. De oplossing kan nu binnen de gehele overheid worden gebruikt om de overgang van documenten van alle afdelingen te versnellen.
