В наш час великі мовні моделі (LLM) — основа популярних AI-технологій — стали незамінними інструментами для різних сфер, від написання текстів до обробки медичних даних. Але є одна серйозна проблема – AI схильний до помилок значно частіше, ніж ми собі уявляємо. Найгірше те, що багато хто із користувачів готовий сприймати такі відповіді як істину в останній інстанції.
Останні дослідження компанії OpenAI показали: навіть найсучасніші моделі мають високий відсоток помилок. Так, наприклад, модель "o1-preview" у тесті SimpleQA дала правильну відповідь тільки у 42.7% випадків — тобто більше половини відповідей були неправильними. Інші моделі, такі як Claude-3.5-sonnet від Anthropic, мали ще гірші результати, зокрема правильні відповіді становили лише 28.9%.
Чому LLM-інструменти схильні до помилок
Щоб краще зрозуміти природу помилок LLM, варто заглибитися в те, як вони працюють. Ці нейронні мережі створюють відповіді не через точне відтворення інформації, а за допомогою генерації нових даних на основі аналізу великих обсягів тексту. Вони скоріше нагадують "стиснуті архіви знань": модель, застосовуючи складні алгоритми, відбирає та трансформує дані, щоб утворити зрозумілу відповідь. Однак під час цього процесу деякі аспекти точності неминуче губляться. Це означає, що, навіть якщо модель використовує надійні джерела, не варто розраховувати на повну безпомилковість її відповідей.
З іншого боку, важливий момент — це галюцинації (або "генерація фейкової інформації"), коли модель вигадує факти. Це не баг, а характеристика їхньої архітектури. Мозок людини теж може створювати уявні "всесвіти" у вигляді уяви чи творчості. Проте, коли ця особливість притаманна нейронній мережі, вона може призвести до серйозних проблем у реальному світі. LLM функціонують у сфері, яка розширена далеко за межі реальності, охоплюючи також домен "вигадок", і це не завжди корисно в тих випадках, коли потрібна надійна інформація.
Бо LLM не лише генерують відповіді, а й цитують джерела, структурно представляють інформацію, додають коментарі й деталі — усе це надає їм видимість достовірності. Людський мозок, зі свого боку, починає сприймати ці відповіді як правду, адже коли щось виглядає переконливо, у нас виникає спокуса довіряти без питань.
Цей феномен особливо важливий у контексті критичного мислення, яке, по суті, здатне "вимкнутися", коли ми зіштовхуємося із систематично чіткими й добре структурованими відповідями. Коли модель впевнено подає помилкову інформацію, супроводжуючи її джерелами та деталями, критичне мислення з легкістю може піти на відпочинок.
Як користуватися LLM обережно
Мовні моделі вимагають уважного та критичного підходу. Хоча надійність інформації завжди була пріоритетом, у випадку роботи з AI цей аспект стає важливішим як ніколи. Варто зберігати певну дистанцію до довіри та перевіряти будь-який текст, згенерований AI, особливо уважно.
Прості правила для користувачів:
Чому важливо завжди перевіряти
LLM стали широко використовуваними завдяки своїй здатності адаптуватися та швидко генерувати текст, проте реальність така, що їхні відповіді мають бути піддані ретельній перевірці. У сучасному світі, де AI стає все більше інтегрованим у наше життя, помилки можуть мати катастрофічні наслідки.
AI вже зараз використовують у важливих сферах — від створення контенту до прийняття рішень в урядових установах. І хоча технологія має потенціал для подальшого вдосконалення, нам слід пам’ятати, що AI — це інструмент, а не кінцевий володар всіх знань. І ми, як користувачі, не маємо права відмовитися від критичного мислення тільки тому, що "технологія знає краще".
Якщо ми будемо надто покладатися на LLM без критичного погляду, ризикуємо опинитися у світі, де реальність і вигадка переплітаються настільки, що навіть правда стає складною для розрізнення. Інструменти штучного інтелекту можуть допомагати думати, але вони не можуть замінити мислення.
Питання та відповіді для статті про помилки LLM
1. Чому LLM схильні до помилок?
LLM аналізують великі обсяги тексту та генерують нові дані, але цей процес може призвести до втрати деяких аспектів точності. Також, LLM можуть "галюцинувати" або створювати фейкові дані через особливості їх архітектури, схоже на творчий процес у людському мозку.
2. Як користуватися LLM обережно?
Користувачі повинні завжди перевіряти інформацію, згенеровану LLM, шукати підтвердження в надійних джерелах та бути критичними до впевненості та точності відповідей. Важливо звертати увагу на посилання та джерела, оскільки цитування не завжди гарантує достовірність.
3. Чому важливо завжди перевіряти інформацію з LLM?
У сучасному світі, де AI все більше інтегрується у наше життя, помилки можуть мати серйозні наслідки. Використання LLM важливих областях, як от урядові установи або медицина, вимагає відповідального підходу та критичного мислення для забезпечення точності та надійності інформації.
Ініціативна група «Медіанушівці» в партнерстві з Академією української преси оголошує Всеукраїнський конкурс «Практична медіаграмотність у НУШ. 5-7 клас» на кращу вправу з інтеграції медіаграмотності в мовно-літературну, громадянську та історичну, природничу та мистецьку галузі.
Конкурс реалізується за сприяння Ґете-Інституту в Україні разом із НотаЄнота в рамках проєкту «Meet the Teacher», за фінансової підтримки Міністерства закордонних справ Німеччини.
Основні критерії оцінювання вправ такі:
Двадцять переможців/переможниць конкурсу отримають авторські гонорари за розробку вправ (48 €) та дипломи від ініціативної групи та АУП.
Конкурс триває з 4 до 17 листопада 2024 року.
Результати будуть оголошені з 22 листопада 2024 року на ресурсах ініціативної групи та АУП та надіслані електронною поштою всім учасникам/учасницям конкурсу.
Для участі в конкурсі необхідно завантажити на ваш комп’ютер та наповнити контентом форму, яку необхідно до вказаного дедлайну надіслати організаторам шляхом заповнення гугл-анкети: https://docs.google.com/forms/d/e/1FAIpQLSdAGdjS55egsYBDKG_f2KjVjsBTwljlqFG06iEmSmroK6SqzA/viewform?usp=sharing
Кожен/кожна учасник/учасниця може надіслати не більше 3-х вправ.
Важливо!!! На конкурс не приймаються вправи, які вже були учасниками інших конкурсів.
Друзі, просимо особливо звернути увагу, що до конкурсу приймаються тільки вправи (!), оформлені за шаблоном.
УВАГА: Опис вправи має складати не менше аніж 15 000 знаків
Пропонуємо скористатися підготовленою ініціативною групою додатковою інформацією для учасників Всеукраїнського конкурсу «Практична медіаграмотність у НУШ. 5-7 клас» за покликанням:
Для того щоб ви могли підготуватися до Всеукраїнського конкурсу «Практична медіаграмотність у НУШ. 5-7 клас» на кращу вправу з інтеграції медіаграмотності в мовно-літературну, громадянську та історичну, природничу та мистецьку галузі, запрошуємо 7 листопада о 18.00 на онлайн-вебінар «Як створити медіаосвітню вправу для НУШ» від ініціативної групи «Медіанушівці».
Учасники:
Оксана Волошенюк, викладачка кафедри кінознавства Інституту екранних мистецтв КНУТКіТ ім. І.К. Карпенко-Карого, експертка АУП з медіаосвіти, Голова Спілки кінокритиків України
Галина Дегтярьова, завідувачка катедри методики навчання мов і літератури КВНЗ «Харківська академія неперервної освіти», доктор педагогічних наук
Руслан Шаламов, учитель біології Харківського обласного наукового ліцею-інтернату «Обдарованість», кандидат біологічних наук, заслужений вчитель України.
Участь у вебінарі безкоштовна. Для реєстрації на вебінар, будь ласка, заповніть до 22.00 6 листопада анкету за покликанням:
Детальна інформація з лінком і часом проведення вебінару буде відправлена зареєстрованим учасникам на їхні електронні скриньки.
Контактна особа: Оксана Волошенюк, менеджерка ініціативної групи.
Електронна пошта: voloshenuk20@gmail.com, тел. 067-504-98-02
«А нам справді покажуть кіно? Чесно-чесно?» — здивовано питали учні Харківського наукового ліцею-інтернату «Обдарованість». У рамках Глобального тижня медіаграмотності 25 жовтня 2024 року до них завітала Оксана Волошенюк, експертка Академії української преси та кінознавець, щоб провести лекцію про сучасну українську анімацію та показати кінострічки учням сьомого класу, яких навчає Руслан Шаламов — автор програми з медіаосвіти та занять з біології.
Керівники ліцею зізналися, що зараз у Харкові не працює жоден музей, тож повести дітей кудись майже неможливо. І справді: місто виглядає моторошно порожнім. Пішоходів майже немає, тільки автомобілі, що рухаються жвавими магістралями, натякають на життя в місті. У магазинах теж людно не буває, а кількість точок продажу військової амуніції майже зрівнялася з продуктовими.
Під час чергової тривоги десятки дітей, частина з яких, здається, ніколи не бачили фільмів на великому екрані, сиділи в укритті та дивилися короткометражки та анімацію. Вони жваво реагували на все, що відбувалося на імпровізованому екрані, а потім дякували й підходили потиснути руку.
Для вчителів ліцею була підготовлена окрема програма з фільмів VIII Фестивалю незалежного короткометражного українського кіно «Бардак», який саме відбувався в місті.
Дякуємо, Харків!
Структура:
LLM у маркетингу і реальності
Поява мовних моделей (LLM), особливо великих мовних моделей (LLMs), таких як GPT, в журналістиці викликає змішані відгуки. На перший погляд, здається, що з’явився «розумний» інструмент, який може відповісти на будь-яке питання, написати аналітику і навіть «подружитися» з користувачем. Але тут починаються розчарування. LLM – це не розумна особистість, а добре навчене передбачення тексту, що підкреслює штучну ілюзію інтелекту. Очікування на щось більше – на думку, експертність, емпатію – майже завжди закінчується розчаруванням.
Мовна модель не здатна розуміти контекст чи аналізувати емоції, як це зробила б людина. Її «розуміння» обмежене статистикою і шаблонами, які вона зібрала під час навчання. Тому LLM – чудовий інструмент для обробки великих обсягів інформації, але якщо спробувати покладатися на неї як на людину для спілкування, ви швидко відчуєте, що їй бракує ключових елементів людського сприйняття.
Це – потужний маркетинговий хід: інвестиції в мовні моделі мотивують корпорації показувати LLM як часткову заміну співробітнику. Реальність же виявляється більш приземленою: це інструмент, здатний вирішувати практичні завдання, допомагати зі збором інформації, автоматизацією рутинних текстів, але не замінити персонал.
Підвищення якості текстів завдяки LLM
Усвідомлюючи обмеження LLM, багато хто починає використовувати ці інструменти, щоб, як не дивно, стати кращим автором. Для людей, які раніше не мали навичок написання текстів, мовні моделі стали ефективним помічником. Тепер кожен може формулювати свої думки чітко, бо LLM вибудує правильні логічні зв’язки, виправить помилки та пояснить ключову ідею – і це вже значне досягнення!
Багато хто став уважніше перечитувати свої тексти – адже відомо, що LLM робить помилки у фактах та покликаннях. Ця потреба вичитувати і перевіряти знижує ризик механічного довіри до текстів, що автоматично генерується LLM, і підвищує загальну критичність мислення читачів. Раніше було досить важко відокремити об'єктивність від маніпуляцій в інтернеті, а зараз це стало більш очевидним, оскільки красивий текст більше не означає достовірний.
Це новий крок для тих, хто тільки починає свою кар’єру в журналістиці або копірайтерстві. Їм більше не потрібно боротися з «чистим листом»: LLM здатна генерувати початкові варіанти тез або навіть чернетку публікації, з якими простіше працювати. З іншого боку, критичність і пильність, що виростає з роботи з LLM, формує нове покоління журналістів, які завжди перевіряють факти, не покладаючись на запропонвоаний текст.
Нові виклики для професійних журналістів
Для професійних райтерів і журналістів мовні моделі створили ще одну «планку якості», до якої доведеться пристосовуватись. Якщо раніше можна було іноді «зекономити» на якості заради швидкості або кількості, то зараз це вже не сприймається аудиторією. Читачі звикають до бездоганно складених, структурованих текстів від LLM, і журналісти змушені враховувати це при написанні статей.
Сучасному професійному райтеру доводиться ще ретельніше опрацьовувати тексти, додаючи в них свій унікальний досвід, цікаві обороти та експертизу, що робить статті справжніми та емоційно наповненими. Тепер важливо не просто слідувати правилам письма, а інтегрувати власні переживання та знання, щоб підкреслити людяність тексту. Наприклад, коли ви розповідаєте про складні соціальні або політичні теми, вставляючи особисті спостереження або життєві приклади, це робить текст сильнішим і ближчим для читача.
Водночас LLM створюють тиск на якість. З одного боку, є спокуса використовувати LLM для швидкої генерації тексту, але з іншого – саме людська унікальність стає тією характеристикою, що виділяє професійного автора. У журналістиці відбувається своєрідний зсув: райтери тепер більше зосереджуються на емоціях, історіях і досвіді, які відомі тільки їм. Це стає значущою перевагою перед алгоритмами, що не можуть глибоко розуміти людський контекст.
Трансформація як позитивний результат технології
Побоювання, що мовні моделі якось повністю витіснять людей з журналістики, перебільшені. Технології дійсно змінюють наше суспільство, але в кращий бік. Вони трансформують світ навколо нас, спонукають до адаптації і розвитку. LLM допомагають людям покращувати якість контенту, але вони не можуть стати справжніми авторами, не здатні до інтуїтивного аналізу, глибоких переживань або креативного мислення, які є частиною людської природи.
І саме це, зрештою, зберігає важливість і унікальність людського письма. Технології сприяють кращому світу, де ми більше цінуємо якість та емоційну глибину, розуміємо важливість перевірених фактів та людських історій. Мовні моделі – це лише інструмент у руках сучасного автора, що допомагає йому рости, але не замінює.
Цей відеоподкаст на сторінці АУП у Youtube створений на основі готового тексту за допомогою LLM HeyGen Labs
Чи можна зробити онлайн-тренінг таким же захопливим, як традиційний офлайн? Чи реально втримати увагу учасників три години й досягти конкретних результатів: сформувати навички, змінити ставлення, створити мотивацію?
Ці питання поставили перед собою медіа-тренери та журналісти з Казахстану. Завдяки організації MediaNet і підтримці Фонду Конрада Аденауера вони стали учасниками тренінгу «Онлайн, що залучає: мистецтво максимальної взаємодії».
Академію української преси представила експертка Тетяна Іванова, доктор педагогічних наук, професор, завідувачка кафедри соціальних комунікацій Маріупольського державного університету.
Популярність онлайн-навчання стрімко зростає: за даними GlobeNewswire, до 2026 року глобальний ринок електронного навчання досягне $457.8 млрд, і вже зараз 2 з 5 компаній зі списку Fortune 500 активно використовують ці технології.
Для тренера важливо не просто навчати, а й залучати учасників. Це означає створення інтерактивного середовища, врахування новітніх тенденцій і використання штучного інтелекту в навчанні.
Тетяна Іванова зосередила тренінг саме на цих аспектах. Вона задіяла сучасні інструменти: Padlet, Mentimeter, Kahoot, Wardwall, Leonardo, Magic School і Suno. Завдяки їм різні методи – ігри, вправи, кейси, мозкові штурми та рефлексивні експерименти – стали по-справжньому захопливими і сучасними.
Дякуємо давнім партнерам із Казахстану за можливість разом розвивати нашу спільну тренерську справу!
29 жовтня 2024 року у межах відзначення Глобального тижня медіа та інформаційної грамотності на запрошення Рівненської обласної бібліотека для дітей Рівненської обласної ради Максим Запорожченко, менеджер медіаосвітніх програм Академії української преси, завідувач центру цифрової освіти та медіакультури МОІППО взяв участь у онлайн-круглому столі “Медіа- та інформаційна грамотність у цифровому просторі: місце і роль бібліотек”, який організовано для працівників бібліотек Рівненської області.
Під час заходу бібліотекарями, освітянами та представниками громадських організацій обговорено можливості сучасних бібліотек у формування цифрових та медіаосвітніх навичок дітей та дорослих.
Максим Запорожченко виступив із темою “Медіаграмотність у бібліотеках: ресурси та підтримка АУП”, під час якої не лише презентував можливості АУП для бібліотекарів (видання, онлайн-ресурси, мініпроєкти), а й відзначив роль бібліотек як стратегічних партнерів Академії, працівники яких є незмінними та активними учасниками проєктів та заходів нашої організації.
Дякуємо організаторам за співпрацю та запрошення!
23 жовтня 2024 року Академія української преси у співпраці з Міністерством освіти і науки України показали, що таке справжня медіаграмотність. І це не просто теорія — йдеться про навички, які допомагають уникати інформаційних пасток і робити власні висновки, а не слідувати чиїмось думкам.
На вебінарі до #GlobalMILWeek2024 «Сучасні підходи до формування критичного мислення» розглянули як навчати дітей і дорослих бачити пропаганду наскрізь, протидіяти дезінформації та формувати критичне мислення на рівні інстинктів
На початку заходу Раїса Євтушенко, головна спеціалістка відділу змісту освіти, позашкільної та виховної роботи Директорату шкільної освіти МОН України, підкреслила важливість співпраці з АУП: «Нещодавно між МОН України та АУП підписано 5-річний меморандум, який з одного боку свідчить про визнання великої ролі АУП в розвитку медіаосвіти, а з іншого боку — про перспективу нашої подальшої співпраці та розвитку».
Валерій Іванов, професор і президент АУП не залишив сумнівів: медіаграмотність — це зброя нашого часу. Він наголосив, що, особливо в нинішніх умовах, вміння відрізняти правду від брехні — питання особистої безпеки та національної свідомості.
Тренди в медіаграмотності на найближчі роки, які висвітлила медіаекспертка Тетяна Іванова, — це новий рівень у підходах, цілях та форматах. Від цільових програм для різних вікових груп до формування національної ідентичності через медіатексти. «Трансформація змісту викладання, формування національної свідомості засобами медіатекстів — ось на що ми маємо звернути увагу, щоб забезпечити ефективне навчання» — відзначила Тетяна Іванова.
Максим Запорожченко, менеджер медіаосвітніх програм АУП нагадав: критичне мислення — це про аналіз, позицію та дії. Усе, що нам треба знати, щоб жити в інформаційній безпеці.
Пропустили подію? Не біда — запис вже чекає на вас тут.
Інформаційна грамотність — це не просто модне слово. Це основа, яка допомагає уникати інформаційних маніпуляцій та формувати об’єктивну думку. Тепер ви знаєте, що володіти критичним мисленням — це круто!
Академія української преси презентувала новий посібник для воєнних журналістів «Від Революції Гідності до повномасштабної війни: як журналісти набували досвіду в реальних умовах». Це унікальне видання, яке має на меті озброїти журналістів, що працюють у зоні бойових дій, всебічними знаннями та практичними рекомендаціями. Посібник охоплює широкий спектр тем, від питань фізичної та інформаційної безпеки до методів роботи з військовими та цивільними, цифрового захисту та психологічної стійкості.
Автори видання — досвідчені журналісти Пйотр Андрусечко та Андрій Коваленко — зібрали поради, засновані на багаторічній роботі у найгарячіших точках України. Книга охоплює події від Майдану 2014 року до сьогодення, включно з повномасштабним вторгненням Росії у 2022 році, показуючи, як українські журналісти набували навичок «на ходу», часто ризикуючи життям у реальних умовах.
У першій частині посібника висвітлено історію сучасної воєнної журналістики в Україні. Пйотр Андрусечко детально описує, як українські журналісти адаптувалися до нових умов роботи з початку конфлікту на Донбасі, коли багато з них вперше зіткнулися з необхідністю висвітлювати збройний конфлікт без спеціальної підготовки. Автор наводить приклади реальних історій, коли журналісти стикалися з викликами, пов'язаними з фізичним ризиком, інформаційними загрозами та емоційним виснаженням.
Далі у виданні йдеться про конкретні методи підготовки до роботи в небезпечних умовах. Андрій Коваленко зосереджується на питаннях фізичної безпеки журналістів: як обирати захисне спорядження, яке включає бронежилети та шоломи, а також формування тактичної аптечки. Він також звертає увагу на важливість тренінгів з тактичної медицини, які можуть врятувати життя в критичній ситуації. У посібнику окремо розглянуто питання акредитації журналістів для роботи в зонах бойових дій та організації відряджень.
Особливе місце займає розділ, присвячений психологічній стійкості. Автори аналізують, як постійна небезпека та робота в умовах війни впливають на психічне здоров'я журналістів, а також пропонують практичні рекомендації щодо подолання стресу і запобігання посттравматичному стресовому розладу (ПТСР).
Книга містить також корисні поради щодо цифрової безпеки — актуальні рекомендації, як захистити свої дані від хакерських атак та уникнути дезінформації, яка є потужною зброєю в умовах сучасної війни. У цьому розділі пояснюється, як безпечно користуватися соціальними мережами, зберігати конфіденційність своїх контактів і захищати інформацію.
Видання наповнене реальними історіями, порадами та рекомендаціями від журналістів, що працювали на передовій. Як зазначив Валерій Іванов, президент Академії української преси: «Кожен журналіст має пам’ятати про правило, що жоден матеріал не вартий його життя». Це ключовий меседж книги, який закликає журналістів не лише висвітлювати події, а й дбати про власну безпеку.
Посилання: https://www.aup.com.ua/book-review/vid-revolyucii-gidnosti-do-povnomassht/
Посібник став можливим завдяки підтримці Центру медіа- та цифрової грамотності Вільного університету Берліна, що підкреслює його міжнародний контекст і значущість для глобальної журналістської спільноти.
23 жовтня 2024 року о 15:00 Академія української преси в співпраці з Міністерством освіти і науки України проведе вебінар до Глобального тижня медіа та інформаційної грамотності “Сучасні підходи до формування критичного мислення”.
Під час тренінгу поговоримо про методи формування навичок критичного мислення у здобувачів освіти, вікові особливості та практичні вправи, які в цьому допоможуть, сучасні тренди у викладанні інфомедійної грамотності.
Спікери заходу:
Запрошуємо на тренінг освітян України, вхід – абсолютно вільний за умови підписки на YouTube-канал Академії. Посилання залишимо: https://www.youtube.com/@aup-foundation
Долучайтеся!
