Las IA nunca deberían ser usadas para cuestiones de moderación o para poner castigos, se equivocan más que una escopeta de feria y no tienen capacidad analítica.
Por ejemplo sé de casos de gente de Twitch y Youtube que recibieron strikes por Copyright (siendo fair use) por aprovechamiento del bot.