7 клас Упередженість штучного інтелекту

Упередженість штучного інтелекту

ІНФОРМАТИКА · 7 КЛАС

УПЕРЕДЖЕНІСТЬ ШТУЧНОГО ІНТЕЛЕКТУ

Чи завжди ШІ ухвалює справедливі рішення? Сьогодні дослідимо, як дані впливають на його відповіді.

🤖

НАOЧНИЙ ПРИКЛАД

ШІ → дані → висновок

Поясни, що показує ця схема.

Показати відповідь

Схема показує, що система ШІ аналізує дані та на їх основі формує висновок. Якість висновку залежить від якості даних.

ІНФОРМАТИКА · 7 КЛАС

ЩО ТАКЕ ШІ?

Штучний інтелект — технології, що допомагають комп’ютерним системам розпізнавати закономірності, створювати вміст і робити прогнози.

🧠

НАOЧНИЙ ПРИКЛАД

Дані → навчання → модель → результат

Поясни, що показує ця схема.

Показати відповідь

Спочатку система отримує приклади, навчається знаходити закономірності, а потім застосовує модель до нових завдань.

ІНФОРМАТИКА · 7 КЛАС

ЩО ТАКЕ УПЕРЕДЖЕНІСТЬ?

Упередженість ШІ — систематичне спотворення результатів, яке може несправедливо впливати на людей або групи.

⚖️

НАOЧНИЙ ПРИКЛАД

Однакові можливості ≠ несправедливі рішення

Поясни, що показує ця схема.

Показати відповідь

Упередженість виникає, коли система систематично ставиться до певних випадків або груп несправедливо, а не просто випадково помиляється.

ІНФОРМАТИКА · 7 КЛАС

ЧОМУ ШІ ПОМИЛЯЄТЬСЯ?

Причинами можуть бути неповні або нерівномірні дані, стереотипи в прикладах, помилки розмітки та невдалий спосіб перевірки.

🧩

НАOЧНИЙ ПРИКЛАД

Неповні дані → хибні закономірності → помилки

Поясни, що показує ця схема.

Показати відповідь

Якщо навчальні дані неповні чи однобічні, ШІ засвоює хибні закономірності й може повторювати помилки.

ІНФОРМАТИКА · 7 КЛАС

ЯК ШІ НАВЧАЄТЬСЯ?

Уяви: модель бачила 90 зображень червоних яблук і лише 2 зелених. Вона може частіше помилятися на зелених яблуках.

🍎

НАOЧНИЙ ПРИКЛАД

🍎🍎🍎🍎🍎🍎🍎🍎🍎 + 🍏 → ?

Поясни, що показує ця схема.

ПОМІРКУЙ: якщо навчали лише на червоних яблуках, чи впізнає система зелене?

Показати відповідь

Система бачила переважно червоні яблука, тому може не впізнати зелене. Потрібно навчати її на різних сортах і кольорах.

ІНФОРМАТИКА · 7 КЛАС

ПРИКЛАД: ФРУКТИ

Якщо система навчалася переважно на червоних плодах, вона може сплутати зелений сорт яблука з іншими фруктами. Колір не визначає вид.

🍏

НАOЧНИЙ ПРИКЛАД

Навчання: 🍎🍎🍎 → перевірка: 🍏 → помилка

Поясни, що показує ця схема.

ПОРІВНЯЙ: червоні та зелені яблука — це той самий вид фрукта.

Показати відповідь

Зелене яблуко теж є яблуком. Для точного розпізнавання потрібні різні приклади, а не лише один колір.

ІНФОРМАТИКА · 7 КЛАС

ПРИКЛАД: РОЗПІЗНАВАННЯ МОВИ

Якщо голосові записи для навчання були лише з одним акцентом, система може гірше розуміти інших мовців.

🎙️

НАOЧНИЙ ПРИКЛАД

Різні голоси + різні акценти = краща перевірка

Поясни, що показує ця схема.

ПОМІРКУЙ: чи однаково добре ШІ розуміє різні акценти?

Показати відповідь

ШІ може краще розпізнавати акценти, представлені в навчальних записах. Треба перевіряти його на різних голосах і вимовах.

ІНФОРМАТИКА · 7 КЛАС

ПРИКЛАД: ПОШУК І ПРОФЕСІЇ

Система, навчена на стереотипних описах професій, може частіше показувати певні професії лише чоловікам або лише жінкам. Це несправедливо.

👩‍🚀

НАOЧНИЙ ПРИКЛАД

Інженерка · Учитель · Пілотеса · Медбрат

Поясни, що показує ця схема.

ПОМІРКУЙ: чи може професію визначати стать людини?

Показати відповідь

Якщо приклади професій містять стереотипи, система може повторювати їх. Професійні можливості не визначаються статтю.

ІНФОРМАТИКА · 7 КЛАС

ПРИКЛАД: РЕКОМЕНДАЦІЇ

Рекомендаційний алгоритм може показувати лише схожі відео. Так виникає «інформаційна бульбашка», що звужує коло поглядів.

📱

НАOЧНИЙ ПРИКЛАД

Перегляд → схожі відео → ще схожі відео

Поясни, що показує ця схема.

ЗАПИТАННЯ: чому після одного відео ми бачимо десятки схожих?

Показати відповідь

Алгоритм може частіше рекомендувати схожий контент і звужувати коло поглядів. Варто шукати різні джерела інформації.

ІНФОРМАТИКА · 7 КЛАС

ПОМИЛКА ЧИ УПЕРЕДЖЕНІСТЬ?

Разова неправильна відповідь — не обов’язково упередженість. Про упередженість говоримо, коли певна помилка повторюється систематично.

🔎

НАOЧНИЙ ПРИКЛАД

1 випадкова помилка ≠ систематична нерівність

Поясни, що показує ця схема.

ПОРІВНЯЙ: одна помилка чи повторювана несправедливість?

Показати відповідь

Окрема помилка ще не доводить упередженість. Важливо перевірити, чи повторюється вона систематично для певних випадків.

ІНФОРМАТИКА · 7 КЛАС

ЧОМУ ЦЕ ВАЖЛИВО?

Упереджені рішення можуть позначитися на доступі до навчання, роботи, послуг та інформації. Особливо важливо перевіряти рішення, які впливають на людей.

🚦

НАOЧНИЙ ПРИКЛАД

Наслідки: неточність · стереотипи · нерівність

Поясни, що показує ця схема.

Показати відповідь

Потрібно порівнювати результати на різноманітних прикладах і перевіряти, кому система помиляється частіше.

ІНФОРМАТИКА · 7 КЛАС

ЯК ВИЯВИТИ УПЕРЕДЖЕНІСТЬ?

Перевіряй модель на різноманітних прикладах. Порівнюй результати для різних умов і став запитання: кому система допомагає гірше?

🧪

НАOЧНИЙ ПРИКЛАД

Тест A → результат A | Тест Б → результат Б

Поясни, що показує ця схема.

ПЕРЕВІР: чи однакова частота помилок для різних прикладів?

Показати відповідь

Людина має перевіряти важливі висновки ШІ, особливо якщо вони можуть впливати на права та можливості інших людей.

ІНФОРМАТИКА · 7 КЛАС

ЯК ЗМЕНШИТИ УПЕРЕДЖЕНІСТЬ?

Збирати різноманітні дані, виправляти помилки, тестувати на різних групах, залучати людей до перевірки та регулярно оновлювати модель.

🛠️

НАOЧНИЙ ПРИКЛАД

Різні дані → тестування → виправлення → повторна перевірка

Поясни, що показує ця схема.

Показати відповідь

Щоб зменшити упередженість, слід покращити дані, протестувати різні випадки й виправляти виявлені систематичні помилки.

ІНФОРМАТИКА · 7 КЛАС

ЯК КОРИСТУВАТИСЯ ШІ ВІДПОВІДАЛЬНО?

Не сприймай відповідь ШІ як остаточну істину. Перевір факти, помічай узагальнення, не передавай приватні дані та не приймай важливі рішення лише за порадою ШІ.

🛡️

НАOЧНИЙ ПРИКЛАД

Запитай → перевір → порівняй → зроби висновок

Поясни, що показує ця схема.

Показати відповідь

Не варто автоматично довіряти відповідям ШІ: перевіряй факти, помічай узагальнення та став уточнювальні запитання.

ІНФОРМАТИКА · 7 КЛАС

ПІДСУМОК

ШІ вчиться на даних. Якщо дані неповні чи перекошені, результат може бути несправедливим. Люди відповідають за перевірку й відповідальне використання ШІ.

🌟

НАOЧНИЙ ПРИКЛАД

Критичне мислення + різноманітні дані + людський контроль

Поясни, що показує ця схема.

Показати відповідь

Головний висновок: ШІ не завжди нейтральний. Справедливіші результати потребують різноманітних даних і людського контролю.

1 / 15

🎬 Відеопояснення

🎬 Відеопояснення: ШІ та медіаграмотність

Вбудований запис Всеукраїнського уроку медіаграмотності. У ньому розглядаються виклики штучного інтелекту та критична перевірка інформації. Це ширша тема, ніж лише упередженість ШІ.

Відео довше за короткий 10-хвилинний фрагмент; учитель може обрати потрібний уривок.

🎮 Інтерактивні вправи Wordwall

Виконай вправи на платформі Wordwall. Вони допомагають повторити ШІ, перевірку інформації та відповідальне використання технологій.

Штучний інтелект — вікторина

Повторення понять і критичне оцінювання інформації.

▶ Відкрити Wordwall

ШІ: поняття і приклади

Повторення понять і критичне оцінювання інформації.

▶ Відкрити Wordwall

Академічна доброчесність і ШІ

Повторення понять і критичне оцінювання інформації.

▶ Відкрити Wordwall

Факти й фейки — критичне мислення

Повторення понять і критичне оцінювання інформації.

▶ Відкрити Wordwall

📝 Перевір свої знання

11 запитань = 11 балів. Обирай одну або кілька відповідей, користуйся випадаючими списками та встановлюй відповідності. За кожне повністю правильне завдання — 1 бал.

1. У якій ситуації найімовірніше виникає упередженість? Модель помилилася один раз Модель систематично гірше розпізнає голоси з певним акцентом Комп’ютер вимкнувся

2. Які причини можуть призвести до упередженості ШІ? Нерівномірні навчальні дані Стереотипні приклади Різноманітне тестування Помилкова розмітка

3. Модель бачила тільки червоні яблука. Зелений плід вона може…Оберіть відповідьпомилково не впізнатиобов’язково впізнатиперетворити на інший фрукт

4. Яке твердження найточніше? Кожна помилка ШІ є дискримінацією ШІ завжди нейтральний Систематична помилка може свідчити про упередженість

5. Що допомагає перевірити справедливість моделі? Тестувати різні групи прикладів Порівнювати частоту помилок Використати лише найзручніші приклади Залучити людську перевірку

6. Алгоритм рекомендує лише відео одного погляду. Це може створити…Оберіть відповідьінформаційну бульбашкурезервну копіюантивірус

7. Хто має перевіряти важливі рішення ШІ? Тільки сама система Люди, відповідальні за застосування системи Ніхто

8. Які дії відповідального користувача правильні? Перевірити відповідь за іншими джерелами Ввести чужі приватні дані Поставити уточнювальні запитання Помічати стереотипні узагальнення

9. Установи відповідність: причина → наслідокМало різних голосів → ОберітьВузькі рекомендаціїНесправедливі описи професійГірше розпізнавання деяких акцентівСтереотипні тексти → ОберітьВузькі рекомендаціїНесправедливі описи професійГірше розпізнавання деяких акцентівОднотипні перегляди → ОберітьВузькі рекомендаціїНесправедливі описи професійГірше розпізнавання деяких акцентів

10. Що найкраще виправить модель, яка плутає зелені яблука? Додати різні сорти яблук до навчання та перевірки Змінити назву моделі Прибрати всі зелені зображення

11. Установи відповідність: поняття → поясненняУпередженість → ОберітьПеревірка рішень людиноюПриклади для побудови моделіСистематичне спотворення результатівНавчальні дані → ОберітьПеревірка рішень людиноюПриклади для побудови моделіСистематичне спотворення результатівЛюдський контроль → ОберітьПеревірка рішень людиноюПриклади для побудови моделіСистематичне спотворення результатів

💻 Практична робота: «Навчи ШІ справедливіше»

Завдання: уяви, що модель розпізнає яблука. Спочатку їй показали лише червоні яблука. Створи в текстовому редакторі або презентації односторінковий звіт, як покращити навчання моделі.

1. Напиши назву та сформулюй проблему.
2. Створи таблицю з двома стовпцями: «Було» і «Стало».
3. Додай не менше трьох різних прикладів яблук для перевірки (червоні, зелені, жовті).
4. Поясни, чому різноманітність даних важлива.
5. Зроби висновок із двох речень і збережи файл як ШІ_упередженість_7клас.

📄 Зразок готової роботи

ЧИ МОЖЕ ШІ ПОМИЛЯТИСЯ?

Проблема: модель навчали лише на червоних яблуках, тому вона погано розпізнає інші сорти.

Було	Стало
🍎 🍎 🍎 Лише червоні яблука	🍎 🍏 🍎 🍏 🟡 Різні сорти, кольори й освітлення

Перевірка: тестуємо модель на нових зображеннях різних яблук.

Висновок: неповні дані можуть спричиняти систематичні помилки. Різноманітні приклади й перевірка допомагають зменшити ризик упередженості.