Inserire IA nei PbC

01/12/2024 14:22:43 e modificato da outrunstaff il 01/12/2024 14:23:38

darkloren ha scritto:

Salvando lo stream delle chat dall'ora A all'ora B, utilizzando un Api Token a spese dell'utente. Fragile, exploitabile, etc... giusto per rendere l'idea.

Ma appunto, sono solo feature di contorno. QoL.

Gamificare "il narrato" è un'ossessione che mi porto dietro da un po', ma non ne sono mai venuto a capo xD

Ora è mooolto più chiaro! Ti ringraziamo! ❤️

Purtroppo c'è un piccolissimo problema ;_;

utilizzando un Api Token a spese dell'utente

Noi stiamo puntando all'idea di renderla completamente gratuita per l'utenza (poi percarità sono scelte, c'è chi paga 25€ al mese per servizi come NovelAI ed AI Dungeon, non vedrei così strano pagare una feature extra per coprire i costi di avere un tool addizionale per avere sempre qualcosa di nuovo da giocare), quindi per il momento la nostra idea era coprire dei costi mensili (contenuti, ma comunque costi) per le chiamate API.

Alla fine tra dominio, implementazioni di feature sempre nuove e aggiornamenti e manutenzione del codice, questo può rientrare comunque in uno dei costi di mantenimento del prodotto. Poi questa è sempre la nostra opinione!

01/12/2024 14:47:25

Noi stiamo puntando all'idea di renderla completamente gratuita per l'utenza (poi percarità sono scelte, c'è chi paga 25€ al mese per servizi come NovelAI ed AI Dungeon, non vedrei così strano pagare una feature extra per coprire i costi di avere un tool addizionale per avere sempre qualcosa di nuovo da giocare), quindi per il momento la nostra idea era coprire dei costi mensili (contenuti, ma comunque costi) per le chiamate API.

Yes, assolutamente. Presentavo la via più breve. Potreste anche sperimentare i modelli molto lightweight che - in linea teorica - danno risultati accettabili anche senza GPU. Tipo GPT-J 6B, LLaMA 2 7B... uno dei limiti teorici è proprio il costo di pagare un servizio terzo. Alla fine, quello che fanno i PbC è proprio produrre una marea di token... e poi son dolori.