L'AI ha un problema: costa troppo. Servono GPU, infrastruttura, competenze. Cloudflare vuole cambiare le regole del gioco con Workers AI, e i primi risultati sono promettenti.
L'idea rivoluzionaria
Workers AI esegue modelli di machine learning sulla rete edge di Cloudflare. Tradotto: inferenza veloce, vicina agli utenti, senza server da gestire. E per molti use case, completamente gratuita nel piano free.
Abbiamo costruito un classificatore di sentiment per le recensioni di un e-commerce. Setup: 15 minuti. Costo: zero. Latenza: 50ms in media. Impressionante.
I modelli disponibili
La libreria include Llama 2, Mistral, modelli per image recognition, text embedding, e altro. Non sono i modelli più potenti in assoluto, ma per il 90% degli use case sono più che sufficienti.
Limiti da conoscere
Il tier gratuito ha limiti di richieste. I modelli più grandi richiedono il piano a pagamento. E per task molto specifici, potreste aver bisogno di fine-tuning che qui non è possibile.
Ma per prototipare, sperimentare, o lanciare MVP con componenti AI, Workers AI è ora la nostra prima scelta.