«Френологія» звучить старомодно – так ніби це слово можна знайти лише в підручнику з історії, де воно трапляється разом із кровопусканням і моноклем. Ми хотіли б думати, що вже залишили в минулому практику визначення чеснот людини за розмірами та формою її черепа. Однак френологія знову піднімає свою бридку голову.
В останні роки уряди та приватні компанії сподіваються, що алгоритми машинного навчання зможуть збирати всіляку інформацію завдяки аналізу людської зовнішності. Зараз декілька стартапів стверджують, що можуть використовувати штучний інтелект (ШІ), щоб допомогти роботодавцям визначити особливості характеру кандидатів на роботу з виразу їх облич. Китайський уряд вперше застосував камери спостереження для визначення та стеження за етнічними меншинами. Тим часом з’явилися повідомлення про школи, що встановлюють системи камер, які автоматично карають дітей за неуважне навчання, визначаючи його через вимірювання рухів обличчя та мікроекспресій, таких як посмикування брів.
Мабуть, найбільш сумнозвісним прикладом став випадок кілька років тому, коли дослідники ШІ Сяолінь Ву та Сі Чжан заявили, що навчили алгоритм визначати злочинців за формою їх облич з точністю у 89.5%. Принаймні, вони не стали схвалювати деякі ідеї щодо зв’язку між фізіогномікою та характером людини, що поширювались у ХІХ столітті, зокрема, у працях італійського кримінолога Чезаре Ломброзо: що злочинці є недорозвинутими, недолюдськими звірами, яких можна впізнати за їх похилим чолом й орлиним носом. Проте, спроба цього недавнього дослідження, здавалося б, за допомогою високих технологій виявити риси обличчя, пов’язані зі злочинністю, безпосередньо спирається на «метод композитингу фотографій», який розробив вікторіанський майстер на всі руки Френціс Ґолтен і який передбачав групування облич людей у певні категорії, щоб виявити фізичні ознаки, які вказують на такі характеристики, як здоров’я, хвороби, красу та злочинність.
Наукові журналісти засудили ці технології розпізнавання обличчя як «у буквальному сенсі френологію»; вони також пов’язали їх використання з євгенікою, псевдонаукою вдосконалення людського роду через заохочення до розмноження людей, які вважаються найпристосованішими. (До речі, саме Ґолтен ввів термін «євгеніка», описавши її у 1883 році як «усі впливи, які дають пристосованішим расам або кровним зв’язкам певні кращі шанси швидше перемогти над менш пристосованими, ніж вони б зробили це без них».).
У деяких випадках очевидна мета цих технологій – закрити можливості для тих, кого вважають непридатними; в інших – це може не бути метою, але стає передбачуваним результатом. Та коли ми відкидаємо алгоритми, позначаючи їх як «френологію», на яку саме проблему ми намагаємося звернути увагу? Чи ми говоримо, що ці методи є хибними з наукової точки зору і що насправді вони не працюють, – чи ми говоримо, що застосовувати їх морально неправильно, незалежно від їхньої (не)науковості?
Існує довга і заплутана історія використання «френології» як страшної образи. Філософська та наукова критика цієї практики завжди переплітаються між собою, хоча їхні зв’язки з часом змінюються. У XIX столітті противники френології заперечували проти того, що вона намагалася точно визначити розташування різних психічних функцій у відповідних частинах мозку – підхід, який вважали єретичним, бо він ставив під сумнів християнські уявлення про єдність душі. Однак варто зауважити, що намагання визначити характер та інтелект людини за розміром та формою голови не вважали серйозною моральною проблемою. Натомість сьогодні ідея локалізації психічних функцій не є такою суперечливою. Вчені, можливо, більше не думають, що деструктивність знаходиться над правим вухом, але уявлення про те, що когнітивні функції можна локалізувати в певних ділянках мозку, є стандартним припущенням мейнстримної нейронауки.
У XIX столітті френологію також часто піддавали емпіричній критиці. Відбулися бурхливі дискусії про те, де знаходяться певні функції та чи вимірювання черепа є надійним способом визначити, що відбувається в мозку. Однак найвпливовіша емпірична критика старої френології випливала з досліджень французького лікаря Марі-Жан-П’єра Флуранса, який вивчав наслідки пошкодження мозку кролів і голубів – звідки він зробив висновок, що психічні функції розподіляються між різними ділянками мозку, а не локалізуються на окремих ділянках. (Ці результати згодом були спростовані.) Той факт, що френологію відкинули з причин, які більшість сучасних учених більше не сприймає як переконливі, лише ускладнює розуміння того, що ми критикуємо, коли сьогодні використовуємо «френологію» як лайливе слово.
І «стару», і «нову» френологію піддавали критиці за недбалі методи. У недавньому дослідженні злочинності за допомогою ШІ, дані були взяті з двох дуже різних джерел: знімки голів та облич засуджених і фотографії несудимих з вебсайтів пошуку роботи. Уже сам цей факт може пояснити здатність алгоритму виявляти різницю між групами. У новій передмові до статті дослідники також визнали, що ототожнення судових вироків зі злочинністю є «серйозним недоглядом». Але автори, схоже, вважають прирівнювання засуджень до злочинності переважно емпіричним недоліком: використання знімків голів та облич засуджених злочинців, але не тих, кого так і не покарали, створює статистичну упередженість. Вони запевняли, що були «глибоко здивовані» громадським обуренням у відповідь на статтю, призначену «для виключно академічної дискусії».
Примітно, що дослідники не коментують той факт, що сама судимість залежить від вражень про підозрюваних, які формують поліція, судді та присяжні – що робить сам «злочинний» вигляд людини можливою причиною помилок. Вони також не згадують, як інтенсивний поліцейський нагляд за певними громадами та нерівність доступу до юридичної допомоги викривлюють дані. У своїй відповіді на критику автори не відступають від припущення, що «бути злочинцем означає мати ряд аномальних (виняткових) особистих рис». Справді, їх підхід передбачає, що злочинність є вродженою характеристикою, а не реакцією на суспільні умови, такі як бідність або насильство. З емпіричної точки зору, один із чинників, що ставить під сумнів їх набір даних, полягає в тому, що не існує нейтрального визначення «злочинця».
Одне з найпереконливіших моральних заперечень проти використання розпізнавання обличчя для визначення злочинності полягає в тому, що воно стигматизує людей, які вже знаходяться під занадто сильним контролем поліції. Автори говорять, що їх винахід не повинен використовуватися правоохоронними органами, але наводять лише статистичні аргументи щодо того, чому його не потрібно застосовувати. Вони зазначають, що хибнопозитивний показник (50%) був би дуже високим, але не пояснюють, що це означає для конкретного людського досвіду. Помилковими позитивними результатами стали б особи, обличчя яких схожі на обличчя людей, засуджених у минулому. Зважаючи на расові та інші упередження, які існують у системі кримінального правосуддя, такі алгоритми загалом переоцінюють злочинність серед маргіналізованих груп.
Найбільш спірним видається питання про те, чи етично знову винаходити фізіогноміку заради «виключно академічної дискусії». Можна заперечити на емпіричних підставах: євгеністи минулого, такі як Ґолтен і Ломброзо, зрештою не змогли знайти риси обличчя, які схиляли людину до злочинності. Це тому, що таких причинних зв’язків не існує. Аналогічно, психологи, що вивчають спадковість інтелекту, такі як Сиріл Берт і Філіп Раштон, мали «підганяти» свої дані, щоб створити кореляції між розміром черепа, расою та коефіцієнтом інтелекту (IQ). Якби можна було тут щось справді відкрити, це вже давно б зробили численні вчені, які в минулому зазнали невдачі на цьому шляху.
Проблема з поверненням до використання фізіогноміки полягає не лише в тому, що вона не мала успіху в минулому. Дослідники, які продовжують пошук холодного синтезу після досягнення консенсусу серед науковців про його неможливість, також стикаються з критикою за полювання на єдинорогів – але засудження теорії холодного синтезу не приносить їм великої ганьби. У гіршому випадку, їх критики вважають, що вони марно витрачають час. Різниця полягає в тому, що потенційна шкода від дослідження холодного синтезу є значно меншою. Навпаки, деякі коментатори стверджують, що технології розпізнавання обличчя мають регулюватися так само жорстко, як плутоній, оскільки вони майже не мають безпечних застосувань. Коли безперспективний проект, який ви хочете воскресити, створили з метою підтримки колоніальних і класових структур (і коли єдине, що він здатний виміряти – це расизм, притаманний цим структурам), важко виправдати його відновлення просто заради цікавості.
Але просто таврувати дослідження з розпізнавання обличчя як «френологію», не пояснюючи їх можливих негативних наслідків, мабуть не є найбільш ефективною стратегією донесення до наукового товариства всієї серйозності проблеми. Для відповідального ставлення до власних моральних обов’язків науковці повинні усвідомлювати шкоду, яку можуть заподіяти їхні дослідження. Більш чітке пояснення того, що не так з дослідами, які називають «френологією», можливо, матиме більший вплив, ніж просте використання цього слова як образи.
Авторка: Кетрін Стінсон, постдокторська дослідниця філософії й етики штучного інтелекту Центру науки і мислення Боннського університету та Центру майбутнього інтелекту імені лорда Ліверг’юма Кембриджського університету.
Перекладач: Павло Шопін.
Стаття вперше була опублікована англійською мовою під заголовком «Algorithms associating appearance and criminality have a dark past» в журналі «Aeon» 15 травня 2020 р.
Ілюстрації: британські карикатури на френологів ХІХ ст., узяті з відкритих джерел.