How AI Really Thinks - and Why It Hallucinates

lavoro

Trasparenza

Fonti dichiarate: 1

Livello di evidenza: E3

Lente: practical

Panoramica

## Panoramica Chris Howard usa il tema delle hallucinations per fare una distinzione utile: l'errore non e solo un bug da eliminare, ma un segnale del tipo di macchina che stiamo usando e dei limiti del problema che le affidiamo. ## Punti chiave - Le hallucinations dicono qualcosa sul carattere probabilistico del modello, non solo sulla qualita del prompt. - Non ogni problema di business richiede AI: alcune decisioni hanno bisogno di strumenti deterministici e vincoli piu stretti. - Il prerequisito pratico resta investire su dati e controlli, non solo sul modello piu appariscente.

lavororesource1 fonti

Dettagli fonte

Metadati della risorsa esterna

VideoGartner AnalystsGratisLingua: EN
planningpausaweekly_review

Buon nodo per evitare sia il culto del modello sia l'idea opposta che ogni hallucination renda inutile l'AI.

contenutoapplicare

Prendi un task AI e separa due righe: dove puoi tollerare output probabilistico e dove invece ti serve precisione verificabile o vincoli duri.

Buon nodo per evitare sia il culto del modello sia l'idea opposta che ogni hallucination renda inutile l'AI.

Durata: 11 min

Macchina di predizione in sostanza. Quindi, se arrivava a un punto in cui sapeva che qualcosa dovesse accadere ma non aveva dati per riempirlo, avrebbe inventato qualcosa. Per esempio, a Gartner un numero di analisti ha chiesto a strumenti di intelligenza artificiale generativa come ChatGPT di generare una biografia per loro. Ed è stato molto interessante quello che è successo. Quindi qualsiasi informazione pubblica su questi analisti che esistesse e che fosse diventata parte del modello sarebbe emersa. Quindi un po' del loro background, la loro storia, e ne ha indovinata la maggior parte con pochi errori. Ma in quasi ogni caso ChatGPT ha creato un necrologio per l'analista. Quindi perché? Perché è successo questo? Beh, cosa pensiamo è che la maggior parte delle biografie su cui è stato addestrato, quindi GPT è stato addestrato su, tu

How AI Really Thinks - and Why It Hallucinates
Risorsa utile per orientarsi nell'AI applicata. Le tassonomie tecniche e gli scenari restano legati al frame Gartner e vanno incrociati con casi d'uso e vincoli del proprio contesto.

Porta avanti questo contenuto

Trasforma quello che hai letto in un passo concreto: dichiara un'intenzione che vuoi mettere in pratica.

Prima di assentire, mettiti alla prova

Nel corpus molte idee poggiano su presupposti ricorrenti. La Carta del Fondamento ti mostra un'affermazione, il presupposto che la regge e alcune conseguenze che ne discendono — e ti chiede, per ciascuna, se la sottoscrivi. Non è un giudizio di verità: è il costo del tuo assenso, reso ispezionabile.

Le informazioni fornite sono generate con assistenza AI e hanno scopo puramente informativo. Non sostituiscono il parere di un professionista.