Чи навчиться штучний інтелект мислити критично

У 2017 році чат-боти Facebook винайшли власну мову, через що компанія вимкнула їх.

Почалася дискусія про те, чи безпечний узагалі штучний інтелект: мовляв, якщо навчилися розмовляти по-своєму, то й мислення вже не за горами.

Резонанс вщух, але питання лишилося – тож про перспективу штучного інтелекту та критичного мислення дискутували на 25 Book Forum у Львові.

ЩО ТАКЕ КРИТИЧНЕ МИСЛЕННЯ?

Критичне мислення – одна з топових навичок сучасної людини.

Ірина Костюк, тренерка з критичного мислення та дебатів, вважає, що це зумовлено епохою: простір критично наповнений інформацією, і вона не завжди правдива. Тож відрізняти фейки та маніпуляції – один з елементів самозахисту.

Експертка каже, що посилена увага до критичного мислення продиктована відчуттям загрози й потребою уберегти себе.

"Критичне мислення – це крос-культурна звичка. Його повинні виховувати й використовувати скрізь", – зауважує Ірина Костюк.

Ірина Костюк, тренерка з критичного мислення та дебатів

Вона зазначає, що людина здатна приймати раціональні рішення, навіть маючи недостатньо інформації.

У наш час узагалі не можна знати все, що пропонує інформаційний простір, тож вміло оперувати відомими фактами й аналізувати стає надзвичайно важливим.

"Критичне мислення можна назвати соціальним мисленням для життя. Дехто думає, що з побутом це має мало спільного. Але навіть у банальному рішенні за кого вийти заміж, можна застосувати критичне мислення, просканувавши потенційних кандидатів зі ста різних ракурсів", – пояснює Ірина.

Тренерка додає, що критичне мислення передбачає відкритість до нової інформації й емпатію – тобто важливо розуміти, як виникають і що означають почуття інших.

Тож справа не тільки в сухому аналізі, а й у можливості мати вибір – особливий і правильний для кожного.

МАШИНА ЗНАЄ ВСЕ. ЧИ НІ?

Ситуація, коли машина знає про людину все і думає за нас – це вже теперішнє. Так вважає Володимир Вергун, керівник навчальної лабораторії EPAM Systems.

За його словами, машини вже зараз приймають за нас рішення – та ж сама стрічка новин у Facebook формується штучним інтелектом, хоч і на основі вподобань користувачів.

Володимир вважає, що надмірне захоплення соцмережами критичне мислення вбиває, адже нас направляє "хтось" в уже заданому напрямку і кругозір насправді не розширюється.

"Тенденція до машин, що вирішують за нас, є у кожній сфері. Наприклад, медичний додаток, що ставить діагноз на основі рентгенівського знімку, – розповідає Володимир.

Тисячі науковців працюють над тим, щоб штучний інтелект приймав рішення замість людини. Чи це добре? Побачимо".

А от Василь Милько, CEO стартапу Ingeenee, переконаний, що життя зі штучним інтелектом однозначно буде кращим.

На його думку, людина з машиною зливається – з телефоном і без це вже різні особистості. Складніший приклад: пацієнт, життя якого підтримують машини або ж астронавти в станції на орбіті.

"Деяких машин ми не бачимо – Facebook, Google, Amazon. Їх не можна помацати, але вони дещо знають про нас і навіть можуть "думати". Вони вирішують якусь проблему, інакше їх не створювали б", – додає Василь.

Василь Милько, CEO стартапу Ingeenee

У майбутньому людина з машиною зливатиметься ще сильніше. Наприклад, штучне серце.

Як результат, відрізнити людину від машини буде складно і рахувати як живих будуть усіх розумних істот, розмірковує кодер.

НАВЧИТИСЯ БУТИ ЛЮДИНОЮ

В інформаційному просторі багато маніпуляцій від маркетологів, політологів, піарників – згадати хоча б "альтернативні факти" від радниці президента США Дональда Трампа. Так вона назвала різні дані щодо кількості людей на його інавгурації.

У визначенні, де ж правда, міг би допомогти штучний інтелект. Але проблема в тому, що фейк не завжди фейк на 100%.

"Якщо робот скаже, що інформація неправдива на 80%, рішення все одно буде лишатися за нами. Та в повністю правдивій статті може бути одне неправдиве речення, що переверне все з ніг на голову.

Щоб штучний інтелект міг відрізнити саме це речення, треба мати багато вихідних даних і працювати на високій швидкості", – пояснює Володимир Вергун.

Іншою проблемою він називає те, що роботи самі можуть підробити щось. І чи зможе визначити машина, що це зробив її "родич" – не відомо.

Усе ж експерт каже, що до аналізу неоднозначної інформації штучний інтелект ще не готовий.

"Ми хотіли літати, як птахи, але нічого не вийшло – брати Райт створили літак, тож ми літаємо, пародіюючи птахів.

Щоб створити штучний інтелект, що буде схожим на людину, нам теж треба спародіювати себе і зробити щось нове", – порівнює Володимир.

Володимир Вергун, керівник навчальної лабораторії EPAM Systems

Експерт називає штучний інтелект "пласким", адже він не приймає рішень, а тільки робить висновки, на основі яких вирішують усе одно люди.

"Будь-яка дитина зрозуміє з першого погляду, що на картинці собачка – а штучному інтелекту треба показати мільйони картинок різних порід, щоб він це запам’ятав.

Проблема безпеки тільки в тому, що діти не вчаться мислити критично", – пояснює він.

Василь Милько вважає, що оскільки рішення все одно приймає людина, важливий інтерфейс для спілкування з роботом. Він каже, що проблема в швидкості віддачі інформації людиною – ми сприймаємо через очі швидко, а віддаємо повільно.

"Зараз очікують на два прориви: машини зрозуміють мову і зможуть відчувати людські емоції.

Це може бути й штучний інтелект, існування якого ми поки що не уявляємо, – ми надто упереджені до власних знань", – додає він.

[L]На думку Ірини Костюк, навчити штучний інтелект елементам критичного мислення можна. Але соціальним це мислення не стане.

Інше питання – чи у всіх людей є критичне мислення. Щоб це визначити, використовують таксономію Блума. Можна обійтися і без неї – іноді достатньо проаналізувати, чи допомагають прийняті рішення досягнути успіху.

"Ми досі достеменно не знаємо, як працює мозок і що таке думка. Але цінності завжди відрізнятимуть людину від робота. Якими будуть машини, залежить від того, що ми в них вкладемо", – вважає експертка.

Загроза, за її словами, з’явиться, коли штучний інтелект навчиться зчитувати емоції, бо маніпулювати ними легше, ніж фактами. Схоже діяли менталісти з книг Айзека Азімова.

"Якщо людство вважатиме штучний інтелект інструментом для пізнання себе й світу, усе буде добре.

А щоб не було погано, треба читати антиутопії і вчити критичному мисленню наших дітей", – додає тренерка.

Оксана Расулова, спеціально для УП.Життя

Титульна світлина VitalikRadko/Depositphotos