Miért buknak az AI-rendszerek az emberek szélein?

Miről szól

Dr. Jutta Treviranus, az OCAD University Inclusive Design Research Centre igazgatója azt mutatja be, hogy a mesterséges intelligencia képzésére használt adatok rendszeresen kudarcot vallanak azokkal, akik leginkább szorulnának támogatásra. Az ő „emberi starburst" kutatása (1979 óta gyűjtött megfigyelés) kimutatta: az emberek szükségletei közül 80% az átlag körül csoportosul, míg a fennmaradó 20% szétszóródik az elferenceperifériára — ahol a fogyatékossággal élők többsége található. A probléma nem az adathiány: amikor Treviranus önvezető autók tesztjeit felülvizsgálta egy olyan kerekesszékeshez kapcsolódó, valós de statisztikailag ritka mozgásmintázattal, az AI-rendszerek nem biztonságosabbá váltak a további adattal, hanem magabiztosabban tévedtek. Az igazi inkluzivitás azt jelenti, hogy az érintett emberek nem utólagos konzultáció keretében, hanem a probléma megfogalmazásába beépülten vesznek részt — és az erről szóló kanadai új szabvány szerint ez hosszú távon olcsóbb megoldás, mint az átlagemberre tervezett, széléről majd javított rendszer."

A hét kurátorának megjegyzése

Klenovszki János

Ügyvezető igazgató

A Szakmai szemle e heti felelőse

Treviranus „emberi starburst" modellje arra világít rá, amit a hazai projektekben alig mérünk: hogy az átlagos felhasználó számára jó rendszer az épp a margón lévőre nézve katasztrofális lehet. Viszont figyelem — a „több adat = biztosabb rossz döntés" jelenség a nagyobb techvállalatoknak szól, ahol gigabájt adat van. Egy kisebb szervezetnél az a valódi probléma, hogy adat túl kevés: nem arról van szó, hogy túladatozzuk az AI-t, hanem arról, hogy egyáltalán nem szakértünk az adatgyűjtésre, és a probléma már az elején van. Konkrétan azt ajánlom: ha most AI-s megoldáson dolgozol, készítsd meg azt a listát, amit Treviranus tanít — az első húsz felhasználót, akire a szokásos megoldásod nem működik. Nem diagnosztikai kategóriákat, hanem konkrét emberek konkrét szükségletei. Meglepő, milyen gyakran derül ki, hogy a „margó" nem véletlen szétszórtság, hanem visszatérő minta.