У далекому минулому, коли я був студентом і більшість комп’ютерів все ще були величезними мейнфреймами, у мене був друг-аспірант, чий науковий керівник наполягав, щоб він вручну зробив довгий і складний розрахунок з атомної теорії. Це призвело до створення багатьох сторінок записів олівцем, повних помилок, тому мій друг, зрештою, зневірився і пішов іншим шляхом. Одного вечора він пробрався в комп’ютерну лабораторію і написав коротку програму, щоб виконати розрахунок. Потім він ретельно вручну скопіював рішення і віддав його своєму професору.
«Бездоганно! – сказав йому керівник. – Це означає, що ти справжній фізик!» Професор так ніколи й не дізнався про те, що сталося насправді. Хоча я втратив зв’язок з моїм другом, я знаю багато інших людей, які зробили успішну кар’єру в науці без героїчного освоєння олівця і паперу - ремесла минулих поколінь.
Обговорення суспільних змін нерідко відбувається в контексті нових навичок, які стають необхідними. Але замість того, щоб дивитися на те, що ми вивчаємо, можливо нам слід розглянути зворотний бік медалі: що можна буде спокійно забути? У 2018 році журнал «Science» запитав десятки молодих вчених про те, що слід викладати наступному поколінню в школах. Багато хто відповів, що треба скоротити час, який витрачають на запам’ятовування фактів, і надати більше простору для творчих занять. Оскільки Інтернет стає все більш потужним і всеосяжним, навіщо запам’ятовувати і зберігати інформацію? Якщо студенти можуть отримати доступ до світових знань через смартфон, навіщо так багато тримати в своїй голові?
Цивілізації еволюціонують через стратегічне забування того, що колись вважалося життєво необхідними навичками. Після аграрної революції періоду неоліту, землероб міг дозволити собі покинути багато лісових традицій, вміння відстежувати тварин та інші знання, необхідні для полювання і збирання. Протягом наступних тисячоліть, коли суспільства індустріалізувалися, читання і письмо стали життєво важливими, а знання оранки і збирання врожаю відійшли на другий план.
Нині багато хто з нас губиться без GPS-навігатора на своєму смартфоні. Що ж далі? З поширенням автомобілів без водіїв, чи забудемо ми, як кермувати машиною? В оточенні штучного інтелекту, що розпізнає голос та може аналізувати найскладніші висловлювання, чи забудемо ми, як правильно писати? І чи має це значення?
Адже більшість з нас вже не знає, як вирощувати їжу, яку ми їмо, або будувати будинки, в яких ми живемо. Ми не розуміємо, як займатися тваринництвом або як прясти вовну, а може навіть і як змінити свічки запалювання в автомобілі. Більшості з нас не потрібно знати ці речі, тому що ми є членами того, що соціальні психологи називають «мережами транзакційної пам’яті».
Ми постійно займаємося «транзакціями пам’яті» зі спільнотою «партнерів пам’яті» через такі дії, як розмова, читання та письмо. Як члени цих мереж більшість людей більше не мають запам’ятовувати більшість фактів. Це не тому, що знання було повністю забуте або втрачене, а тому, що хтось або щось інше зберігає його. Нам достатньо знати, з ким поговорити або куди звернутися, щоб знайти необхідну інформацію. Успадкований талант для такої кооперативної поведінки – це дар еволюції, і він значно розширює оперативні можливості нашої пам’яті.
Однак новим є те, що багато хто з партнерів нашої пам’яті тепер є розумними машинами. Але штучний інтелект – наприклад, пошукова система Google – є надзвичайно особливим партнером нашої пам’яті. Він більше схожий на «супер-партнера» пам’яті, що негайно реагує та завжди під рукою. І він дає нам доступ до великої частини всієї скарбниці людського знання.
Дослідники виявили декілька ризиків у поточній ситуації. По-перше, наші предки розвивалися в межах груп інших людей, у свого роду горизонтальних мережах пам’яті. Але інформація від інших людей неодмінно забарвлена різними формами упередженості та мотивованого міркування. Вони перекручують факти і раціоналізують. Вони можуть помилятися. Ми навчилися звертати увагу на ці недоліки в інших і в собі. Але використання алгоритмів штучного інтелекту схиляє багатьох людей до думки, що ці алгоритми ніколи не роблять помилок і завжди «об’єктивні». Простіше кажучи, ми стаємо жертвами магічного мислення.
Найновітніші розумні технології сьогодні навчають у процесі багаторазового тестування та оцінювання, коли саме люди все ще зрештою перевіряють значення і вирішують, які відповіді правильні. Оскільки машини повинні бути навчені за допомогою обмежених наборів даних та людей, які роблять судження з-за лаштунків процесу, алгоритми мають тенденцію посилювати існуючі упередження щодо раси, статі і багато чого іншого. Інструмент внутрішнього підбору персоналу, який використовувала компанія Amazon до 2017 року, являє собою класичний приклад: компанія виявила, що алгоритм, навчений на основі рішень внутрішнього відділу кадрів, систематично дискримінував жінок-кандидаток. Якщо ми втратимо пильність, наші супер-партнери зі штучним інтелектом можуть стати супер-ксенофобами.
Друга проблема пов’язана з легкістю доступу до інформації. За межами цифрового світу, зусилля, необхідні для пошуку знань серед інших людей або для відвідування бібліотеки, дозволяють нам чітко усвідомити, які знання знаходяться в інших людей або книгах, а які ми тримаємо в своїй голові. Але дослідники виявили, що надзвичайна гнучкість та легкість роботи Інтернету може призвести до помилкового переконання, яке формується в пізніших спогадах: ніби знання, які ми шукали, насправді були частиною того, що ми завжди знали.
Можливо, ці результати показують, що в нас є здібність до «розширеного розуму». 1998 року цю ідею вперше запропонували філософи Девід Чалмерс і Енді Кларк. На їхню думку, нам слід визнати, що наш розум міститься не тільки у фізичному мозку, але й поширюється назовні, включно з пам’яттю і засобами мислення – такими як блокноти, олівці, комп’ютери, планшети та всесвітня мережа Інтернет.
Враховуючи наш все легший доступ до зовнішніх знань, можливо, ми розвиваємо все ширше «Я» – латентну особистість, чия завищена самооцінка призводить до розмивання кордонів того, де знаходяться знання в нашій мережі пам’яті. Якщо це дійсно так, то що відбудеться, коли інтерфейси «мозок-комп’ютер» і навіть «мозок-мозок» стануть поширеними, можливо завдяки нейронним імплантатам? Ці технології нині розробляються для використання пацієнтами з «синдромом замкненої людини», жертвами інсульту або хворими на пізніх стадіях бічного аміотрофічного склерозу або хвороби рухових нейронів. Але такі засоби, ймовірно, стануть набагато більш поширеними, коли технологія буде вдосконалена – так ми отримаємо інструменти для підвищення ефективності в конкурентному світі.
Здається, виникає новий вид цивілізації, багатої на машинний інтелект, з повсюдними точками доступу для приєднання до швидких штучних мереж пам’яті. Навіть за наявності мозкових імплантатів, більша частина знань, до яких ми звертаємось, містилася б не в наших «прокачаних» кібер-мізках, а деінде – в банках серверів. За одну мить, від запитання до відповіді, кожен пошук у Google тепер долає відстань в середньому близько 1500 миль до центру обробки даних і назад, і використовує близько тисячі комп’ютерів на цьому шляху. Але залежність від мережі також означає створення нових вразливостей. Збій будь-якої з систем відносин, від яких залежить наше благополуччя, як-от їжа або енергія, стане катастрофою. Без їжі ми голодуємо, без енергії ми страждаємо від холоду. І саме через загальну втрату пам’яті цивілізаціям загрожує ризик потрапити в темні віки, що видніються на горизонті.
Але навіть якщо припустити, що машини вмітимуть мислити, люди і машини будуть думати по-різному. Ми маємо взаємодоповнюючі вміння, навіть якщо машини часто не є більш об’єктивними, ніж люди. Працюючи разом у командах «людина + штучний інтелект», ми можемо краще грати в шахи і приймати кращі медичні рішення. Так чому ж не використовувати розумні технології для підвищення рівня навчання студентів?
Технології потенційно можуть покращити освіту, суттєво розширити доступ до неї і сприяти вільній людській творчості і добробуту. Багато людей справедливо відчувають, що вони знаходяться у певному порубіжному культурному просторі, на порозі великих змін. Можливо, педагоги з часом зможуть стати кращими вчителями в партнерстві зі штучним інтелектом. Але в освітньому середовищі, на відміну від колективної гри в шахи або медичної діагностики, студент ще не є експертом з предмету. Штучний інтелект як партнер пам’яті, що знає все, може легко стати незамінною «милицею», але сформувати в студентів хибне враження, ніби вони вміють ходити самостійно.
Як показує досвід мого друга-фізика, пам’ять може адаптуватися і еволюціонувати. Частина цієї еволюції завжди передбачає забування старих навичок і знань, щоб звільнити час і простір для нових. Якщо старі форми знань зберігаються десь у нашій мережі і їх можна знайти, коли вони нам потрібні, тоді, можливо, вони насправді не забуті. Проте, з плином часу одне покоління поступово, але невпинно стає чужим для наступного.
Автор: Джин Трейсі, професор фізики Коледжу Вільяма і Мері у Вірджинії, США.
Перекладач: Павло Шопін, науковий співробітник Фонду Александра Гумбольдта на кафедрі англійської філології Фрайбурзького університету.
Стаття вперше була опублікована англійською мовою під заголовком «How much can we afford to forget, if we train machines to remember?» в журналі «Aeon» 8 квітня 2019 р.