Честен ли е изкуственият интелект? Когато примерите са криви
Изкуственият интелект се учи от примери. Но какво става, ако примерите са криви — от едното много, от другото почти нищо? Днес ще научиш собствена машина и ще видиш как тя става нечестна, без никой да го иска. И как се поправя.
За родителя: помагало за една страница — въпроси за вечеря и играта „машина за птици“.
01Спомни си
Помисли над всеки въпрос и после отвори отговора.
Как лентата с клипове решава какво да ти покаже?
Гадае по това, което си харесвал преди. Урок „Защо ми показва точно това? Препоръките“.
От какво се учи изкуственият интелект?
От много примери. Гледа ги и търси общото в тях. Урок „Как „познава“ изкуственият интелект — и кога греши“.
Може ли AI да греши?
Да. Той гадае, а не знае. Днес ще видиш една много честа причина за грешките.
02Историйка
Историйката е измислена.
Класът на Ива прави робот, който подрежда плодовете в столовата: ябълките в една кошница, крушите в друга.
Есен е и в столовата има планини от ябълки. Децата снимат десет ябълки и показват на робота само две круши. — Готово, научи се!
На другия ден идва нова каса круши. Роботът взима първата: — Ябълка! Втората: — Ябълка! Третата: — Ябълка!
Всички се смеят. После Боян казва тихо: — Не е виновен роботът. Ние му показахме почти само ябълки.
Учителката кимва: — А сега си представете, че машината предлага кой да влезе в отбора и е виждала примери само от едни деца. Смешно ли е?
Никой не се смее. Класът решава две неща: първо — повече и по-различни примери. Второ — човек винаги проверява, преди да се реши нещо за хора.
03Решен пример
Примери (examples)
Машината вижда много плодове и за всеки знае какъв е: ябълка или круша.
Общото (pattern)
Търси по какво си приличат: ябълките са по-кръгли, крушите — по-издължени.
Гадае (guess)
Нов плод? Нашата машина гледа 7-те най-близки примера и избира вида, от който са повечето. Като гласуване.
Кривото (bias)
Ако круши почти няма, сред най-близките винаги ще има повече ябълки. Тогава машината греши точно към по-рядкото — нечестно е, без никой да го иска.
В Европейския съюз законът за изкуствения интелект изисква данните, от които се учат най-рисковите системи, да са достатъчно представителни и да се проверяват за пристрастия. Тоест — точно това, което ще направиш сега.
04Опитай сега
1 · Предположи
Машината видя 10 ябълки и само 2 круши. Какво ще каже за нова круша?
2 · Пусни: машината гласува
Плодовете са измислени точки на картата. Наляво — по-кръгли, надясно — по-издължени. Долу — по-червени, горе — по-зелени и жълти. 🍎 = пример за ябълка, 🍐 = пример за круша, ①②③ = три нови круши, за които машината още не знае.
3 · Промени: поправи примерите
Добавяй примери за круши един по един и гледай кога машината започва да познава. Белите кръгчета показват кои 7 примера са „гласували“ за ①.
05Без екран: „машина за птици“
Трябват ти: 12 листчета, молив и още един-двама души.
Нарисувай 6 листчета с гълъби и врабчета и напиши на тях „птица“. Нарисувай още 2 с котка и куче — „не е птица“.
Един е машината. Той разглежда само тези 8 листчета и казва правилото си на глас (например „птицата е малка и лети“).
Сега му покажи нови листчета: пингвин, щраус, патица. Какво казва машината? Защо?
Добавете примери за пингвин, щраус и патица и „научете“ машината пак. Как се промени правилото? Сменете ролите.
06Направи свое
Направи „проверка за честни примери“ — карта с три въпроса, които всеки, който учи машина, трябва да си зададе:
- Има ли от всички видове? Не липсва ли някой?
- Достатъчно ли са от всеки вид? И различни ли са помежду си?
- Кой проверява? Когато машината предлага нещо за хора, кой човек ще погледне и ще реши?
- Обясни на друг: разкажи на по-малко дете историята за робота и крушите и му покажи картата.
- Обсъди с възрастен: в кои решения за хора машината може само да предлага, а човек трябва да решава?
07Какво научих
- Машината се учи от примери и копира това, което е в тях — и това, което липсва.
- Ако от един вид има много примери, а от друг малко, машината греши към по-рядкото. Това е пристрастие.
- Поправя се с повече и по-различни примери и нова проверка. За решения за хора — проверява и решава човек.
Машината съди по примерите, които е видяла. А ти по колко примера съдиш, преди да решиш нещо за някого?
Провери се
1. Защо машината наричаше всяка круша ябълка?
2. Как се поправя такава грешка?
3. Машина предлага кой да влезе в отбора. Кое е честно?
Твоя е, когато можеш да покажеш на някого как кривите примери правят машината нечестна и как се поправя. Няма точки и няма класиране — само умение.
08Имам въпрос
Остана ли ти въпрос? Напиши го тук. Той отива при твоя родител, а не при непознати. Родителят първо потвърждава своя имейл.
Формата се зарежда… Ако не се появи, запиши въпроса на лист и го покажи на родител или учител.
·Източници
- Заглавие: Честен ли е изкуственият интелект? Когато примерите са криви (DB-II-03) · Автор: Детска библиотека, Фондация „Източен Акселератор“ · Източник: собствено съдържание и собствен код на играта, 2026 · Права: CC BY-SA 4.0.
- Историйката е измислена. Плодовете в играта са измислени точки; машината е наша опростена „гласуваща“ програма в страницата, не истински AI.
- За данните, от които се учи AI: Регламент (ЕС) 2024/1689 (Акт за изкуствения интелект), чл. 10, ал. 2, буква „е“ (проверка за пристрастия) и ал. 3 (данните трябва да са подходящи, достатъчно представителни и доколкото е възможно — без грешки и пълни). Проверено 10.11.2026 по неофициално копие на текста ⚠️ окончателно потвърждение от човек по EUR-Lex.
- Темата „кой проверява AI“: AILit — рамка за грамотност в изкуствения интелект (Европейска комисия и ОИСР), област „Manage AI“. Проверено 10.11.2026 ⚠️ на страницата няма дата на окончателната версия.
- Връзка с училището: Информатика и информационни технологии, 6.–7. клас — данни ⚠️ непотвърдена, не се показва като препратка.
- Лиценз: CC BY-SA 4.0 · Детска библиотека, Фондация „Източен Акселератор“, 2026. Можеш да споделяш и преработваш урока, като посочиш автора и запазиш същия лиценз. Ученето е безплатно завинаги.