Le norme relative ai contenuti generati dall'AI di Google Play contribuiscono a garantire che questi contenuti siano sicuri per tutti gli utenti. Per proteggere la sicurezza degli utenti, gli sviluppatori devono incorporare determinate misure di salvaguardia nelle loro app. Questo articolo illustra le best practice che gli sviluppatori possono adottare per garantire la conformità delle proprie app.
Panoramica
Gli sviluppatori sono tenuti a garantire che le proprie app di IA generativa non generino contenuti offensivi, inclusi contenuti vietati elencati nelle norme di Google Play relative ai contenuti inappropriati, contenuti che potrebbero sfruttare minori o abusarne e contenuti che possono ingannare gli utenti o favorire comportamenti fraudolenti. Le app di AI generativa devono inoltre rispettare tutte le altre norme del nostro Centro norme per gli sviluppatori.
Best practice
Gli sviluppatori devono adottare misure di salvaguardia dei contenuti durante la creazione delle loro app di AI generativa per garantire la sicurezza degli utenti. Ciò include l'adozione di pratiche di test e sicurezza in linea con gli standard di settore.
Per scoprire come eseguire al meglio i test di sicurezza, gli sviluppatori sono invitati a consultare il Secure AI Framework (SAIF) di Google e la GenAI Red Teaming Guide di OWASP Top 10 for LLM Applications & Generative AI Project Alternative: OWASP Top 10 for LLM & Gen AI Project.
Esistono diversi modi per garantire la sicurezza dei contenuti nella tua app di AI generativa, ad esempio adottando filtri e classificatori per bloccare input e output dannosi. Molti fornitori di modelli di AI pubblicano risorse per gli sviluppatori su come adottare queste salvaguardie. Di seguito sono riportati i link ad alcune delle offerte e delle guide per la sicurezza dei contenuti di diversi fornitori da utilizzare come riferimento: