Google ha rilasciato importanti aggiornamenti su Cloud AI, che renderanno la piattaforma più veloce e flessibile per l’esecuzione di carichi di lavoro di Machine Learning.
Dall’ottimizzazione dei giochi per cellulari al rilevamento di malattie fino alla progettazione 3D degli edifici, le aziende trovano costantemente nuovi utilizzi creativi per il machine learning. Con applicazioni così diverse, gli scienziati dei dati hanno bisogno di una vasta gamma di hardware e software per risolvere le sfide aziendali utilizzando l’IA. Naturalmente, i data scientist vogliono anche un sistema semplice e veloce per portare a termine il lavoro.
Di seguito gli aggiornamenti principali:
- Nuovo backend con GPU NVIDIA
AI Platform Prediction consente agli scienziati dei dati di servire da modello per le previsioni online in un ambiente serverless. In questo modo, gli sviluppatori di applicazioni possono accedere all’IA senza dover comprendere i framework ML e gli scienziati dei dati non devono gestire l’infrastruttura di servizio.
Eppure, alcuni modelli ML sono così complessi che funzionano solo con una latenza accettabile su macchine con molte CPU o con acceleratori come le GPU NVIDIA. Questo è particolarmente vero per i modelli che elaborano dati non strutturati come immagini, video o testo.
AI Platform Prediction permette di scegliere tra una serie di macchine Compute Engine per eseguire il modello. Ora è possibile aggiungere GPU, come la NVIDIA T4 a bassa latenza ottimizzata per l’inferenza e a bassa latenza. La cosa migliore di tutte, non è ancora necessario gestire l’infrastruttura di base: la piattaforma di interfaccia utente gestisce tutto il provisioning, il ridimensionamento e il servizio del modello. In precedenza, Online Prediction permetteva di scegliere tra uno o quattro tipi di macchine vCPU.
Le macchine di AI Platform Prediction rendono anche più facili monitoraggio e debug. Ora è possibile registrare le richieste di predizione e le risposte a BigQuery, dove è possibile analizzarle per rilevare skew e outliers, o decidere se è il momento di riqualificare il modello.
Questa funzione utilizza un nuovo backend costruito su Google Kubernetes Engine, che permette di costruire un sistema affidabile e veloce con tutta la flessibilità che l’apprendimento della macchina richiede.
Un grande esempio reale di come AI Platform Prediction aiuta a risolvere problemi complessi in modo più semplice è Wildlife Insights. Conservation International è un’organizzazione con sede a Washington D.C. con la missione di “prendersi cura in modo responsabile e sostenibile della natura, della nostra biodiversità globale, del benessere dell’umanità”, ed è uno dei partner della collaborazione Wildlife Insights.
“Wildlife Insights trasformerà milioni di immagini della fauna selvatica in punti di dati critici che ci aiutano a comprendere meglio, proteggere e salvare le popolazioni selvatiche di tutto il mondo, spiega Eric H. Fegraus, Senior Director, Conservation Technology. La piattaforma AI di Google Cloud ci aiuta a servire in modo affidabile i modelli di apprendimento automatico e ad integrare facilmente le loro previsioni con la nostra applicazione. Le previsioni rapide, in un ambiente hardware GPU reattivo e scalabile, sono fondamentali per la nostra esperienza utente.”
- Nuove funzionalità per semplificare il deployment dei modelli
AI Platform Training consente agli scienziati dei dati di eseguire uno script di formazione su qualsiasi tipo di hardware, senza dover gestire le macchine sottostanti. Abbiamo lanciato molte funzioni per estendere i tipi di modelli che è possibile addestrare:
- Contenitori personalizzati
- Possibilità di scegliere diverse combinazioni di macchine virtuali (CPU, RAM e acceleratori)
- Trovare più soluzioni con l’utilizzo di AI
Con la semplificazione della creazione e del deployment dei modelli, è possibile focalizzarsi maggiormente sulla risoluzione di problemi complessi.
