Inserire IA nei PbC - Pagina 3

01/12/2024 14:47:25

Noi stiamo puntando all'idea di renderla completamente gratuita per l'utenza (poi percarità sono scelte, c'è chi paga 25€ al mese per servizi come NovelAI ed AI Dungeon, non vedrei così strano pagare una feature extra per coprire i costi di avere un tool addizionale per avere sempre qualcosa di nuovo da giocare), quindi per il momento la nostra idea era coprire dei costi mensili (contenuti, ma comunque costi) per le chiamate API.

Yes, assolutamente. Presentavo la via più breve. Potreste anche sperimentare i modelli molto lightweight che - in linea teorica - danno risultati accettabili anche senza GPU. Tipo GPT-J 6B, LLaMA 2 7B... uno dei limiti teorici è proprio il costo di pagare un servizio terzo. Alla fine, quello che fanno i PbC è proprio produrre una marea di token... e poi son dolori.