NordLayer lancia AI Scout: la soluzione per monitorare l’uso aziendale di servizi AI non autorizzati

NordLayer ha recentemente svelato AI Scout, un innovativo strumento progettato per fornire alle aziende una visibilità completa sull’uso di servizi di intelligenza artificiale (AI) da parte dei dipendenti. In un contesto lavorativo in cui l’adozione di tecnologie AI è in costante crescita, questo prodotto si propone di affrontare i rischi associati all’uso di strumenti non autorizzati, noti anche come shadow AI.

AI Scout si distingue per la sua capacità di monitorare le interazioni degli utenti su browser e desktop, identificando i servizi AI sia autorizzati che non autorizzati. Inoltre, lo strumento misura l’utilizzo reale rispetto alle sottoscrizioni acquistate dalle aziende e stima il consumo di token tra i vari modelli linguistici impiegati.

Una delle caratteristiche principali di AI Scout è l’inclusione di controlli progettati per ispezionare i prompt inseriti dagli utenti. Questi controlli possono bloccare o redigere contenuti sensibili prima della loro trasmissione a servizi esterni, garantendo così una maggiore sicurezza dei dati. I controlli basati sul browser possono anche intervenire nel caso in cui un dipendente inserisca informazioni che richiedono un’ulteriore revisione.

Il monitoraggio di AI Scout si estende oltre i chatbot convenzionali, abbracciando anche gli agenti AI e le loro connessioni tecniche con i servizi aziendali. Gli amministratori possono ispezionare l’infrastruttura MCP collegata ad agenti di programmazione e valutare le capacità operative di questi sistemi, fornendo un quadro completo dell’utilizzo dell’AI all’interno dell’organizzazione.

Questa iniziativa di NordLayer risponde a una crescente preoccupazione per l’adozione di AI sul posto di lavoro. Secondo recenti indagini, il 59% delle aziende spende oltre 1 milione di dollari all’anno in tecnologie AI. Tuttavia, il 42% dei dipendenti utilizza sistemi AI approvati, mentre un preoccupante 70%% si affida a modelli gratuiti non autorizzati. Le violazioni legate allo shadow AI possono aumentare il costo medio globale di una breach di circa 400.000 dollari, su un valore medio di 4,99 milioni.

NordLayer sottolinea che l’AI DLP di AI Scout è progettata per garantire che i prompt siano ispezionati e controllati prima dell’invio, evitando così l’immissione di dati sensibili. Con la rapida crescita di nuovi modelli linguistici, è fondamentale disporre di strumenti di telemetria in grado di raccogliere in un’unica piattaforma l’utilizzo dell’AI, sia autorizzato che non.

In conclusione, AI Scout rappresenta un passo significativo verso una gestione più sicura e consapevole dell’intelligenza artificiale nelle aziende, aiutando a mitigare i rischi associati all’uso di servizi non approvati e proteggendo i dati sensibili.