Mi van, ha hibázik az AI?

Az első a bizonyossági küszöb: bizonytalan kimenet sosem megy ki magától. A második a rendszereiddel szembeni validálás, így a megrendeléssel nem egyező számlavégösszeg akkor is megáll, ha a modell magabiztos volt. A harmadik az emberi jóváhagyás mindenre, ami visszafordíthatatlan.

A kérdés nem az, hogy az AI tökéletes-e, hanem hogy jobb-e a mostani folyamatnál péntek délután. A napi negyvenedik emailt kezelő fáradt kolléga is hibázik, és azok a hibák nincsenek naplózva, mérve és rendszeresen javítva.

Amit ígérünk, az a mérés: a hibaarány heti riporton látszik, így látod, csökken-e, és hol csoportosulnak a maradék hibák.

Jogilag te, ugyanúgy, mint amikor egy kolléga hibázik. Pontosan ezért tart a terv embert a körben minden következménnyel járó lépésnél, és ezért rögzíti az automatizálás, mit tett és miért, hogy a felelősség visszakövethető legyen, ne vita tárgya.