Особь или существо

Леонид Бершидский критикует перспективы AI, и говорит, что есть сферы, в которых AI никогда не разберется. В пример приводится Фэйсбук, который в годовом фотоотчете подставил отцу фотографию умершего ребенка в качестве приятного воспоминания за год (ФБ потом извинялся).

Facebook's Thoughtless Artificial Intelligence
I can imagine a truly intelligent machine figuring out what happened to Meyer's daughter and not putting her picture in that merry party-themed frame. I can even imagine one smart enough to keep the girl's picture out of the sequence altogether. But I cannot conceive of a machine so intelligent that it would decide that Meyer doesn't want to relive the year 2014 in any shape or form. This is the kind of knowledge that cannot be mined from big data.

Почему? Это знание о человеке элементарно собирается на статистическом массиве людей, потерявших в течение года своих близких и не желающих запечатлевать этот год в праздничных фотках. Достаточный охват и средней тупости алгоритм легко обнаружат вероятностные образцы того или иного поведения. Просто живому человеку эти знания доступны "наперед", а big data снимет их по факту и потом экстраполирует в будущую ситуацию по релевантным показаниям. И это именно то, что делает big data – снимает такие нюансы. При идеальном ПОЛНОМ охвате уровень "этической" ошибки будет сопоставим со статистикой неэтичного поведения самих людей.
Вторая ошибка текста – будто бы AI должен стать "как люди", то есть повторить и потом превзойти человека в некоем человеческом качестве, например, в уме или какой-нибудь этике. Этот антропоцентризм порожден самим тестом Тьюринга и просто заслоняет картинку. Нет, эволюционирует новый небиологический вид разума, для которого человечество будет площадкой и стартером, но не образцом. Зачем такой образец, он же не очень хороший.
Кроме того, новое существо вообще не обязательно должно быть особью. Оно может быть сетевым и синтетическим, как, например, авиадиспетчерская система, состоящая из людей и компьютеров, только лучше. Как ее сравнить со способностью человека к чему-нибудь, будь то шахматы или этика? Это все равно что сравнивать человека с обезьяной по способности цепляться за ветку. Обезьяна, конечно, лучше. Но нужно ли это качество новому существу в его экосистеме.

Advertisements

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s