Scopri consigli, tutorial e approfondimenti sull'IA generativa
Un'inferenza più economica e capace è l'input per agenti che girano tutto il giorno. La stessa settimana, l'azienda ha rifiutato di distribuire del tutto il suo modello più capace.
L'allucinazione fornisce il nome. L'agente fornisce l'esecuzione. L'aggressore deve solo aspettare che i due si incontrino.
Un anno fa, i modelli che entrano in 56 GB richiedevano un rack. Ora entrano in una scatola grande quanto un pranzo al sacco, ed è questo che rende importante il taglio di prezzo.
La proposta è il test offensivo continuo invece di un incarico umano trimestrale. La questione aperta è se uno sciame di agenti attaccanti può essere mantenuto entro i suoi confini.
Il modello è una versione ridotta di uno già esistente. Ciò che vale la pena tenere d'occhio è dove è approdato e come uno degli host lo sta proponendo.
Un'app normale chiede l'accesso e lo usa come scritto. Un agente chiede l'accesso e poi decide cosa fare. Apple sta rendendo quella differenza più difficile da ignorare.
La risorsa scarsa nell'AI aziendale non è l'accesso ai modelli. È la persona che può rendere un modello sicuro e utile all'interno di uno specifico processo, secondo regole specifiche.
La distillazione permette a un modello piccolo di copiarne uno grande. I laboratori la controllano con più severità, e la linea tra un progetto per hobby e un account bannato si sta assottigliando.
Routing, classificazione e selezione degli strumenti non richiedono testo fluente. Un modello piccolo che restituisce una probabilità su un insieme fisso di risposte è più veloce, più economico e, per quei compiti, spesso migliore.
I chip non sono cambiati, le sale server non sono cambiate: è il libro contabile a cambiare. Amazon vuole trasformare i costosi chip per l'AI in asset finanziabili, mentre Wall Street si arrovella ancora su quanto varranno davvero queste schede tra qualche anno.
La maggior parte dei modelli video compete sulla lunghezza delle clip. Questo compete su quanto si aspetta prima che esista qualcosa, e pubblica il codice invece di un demo reel.
Nessuno di questi rilasci è stato costruito per essere bravo nella conversazione. Sono stati costruiti per essere la cosa su cui gira un agente, e le scelte di addestramento ne derivano.
