Сингулярността може да предефинира какво означава да бъдеш човек и машина

Тази статия се появи в броя от март / април на списание Discover като „Приемане на единствеността“. Абонирайте се за повече истории като тези.

< hr class = "sc-172mrgc-0 bwPPtG" />

Откакто компютрите се оформиха – първо пълнене на стаи, след това офис бюра, после джобове – те са проектирани от човешките умове. През годините много хора питаха: Какво би се случило, ако компютрите се проектират сами?

Някога скоро интелигентен компютър може да създаде машина, далеч по-мощна от себе си. Този нов компютър вероятно ще направи друг, още по-мощен и т.н. Машинният интелект ще се движи по експоненциална крива нагоре, достигайки невъобразими за хората висоти на познание. Това, най-общо казано, е особеността.

Терминът датира отпреди повече от 50 години, когато учените тепърва започваха да се занимават с двоичен код и вериги, които направиха възможно основното изчисление. Още тогава сингулярността беше страховито предложение. Суперинтелигентните компютри може да прескочат напред от нанотехнологиите към завладяващата виртуална реалност към свръхсветливо космическо пътуване. Вместо да бъдат изоставени с нашите слаби мозъци, базирани на клетки, хората могат да се слеят с AI, да увеличат мозъка ни с вериги или дори да качат цифрово нашите умове, за да надживеят телата ни. Резултатът ще бъде презаредено човечество, способно да мисли със скоростта на светлината и без биологични грижи.

Философът Ник Бостром смята, че този свят на халкиона може да донесе изцяло нова ера. „Възможно е в този свят всички да сме по-скоро като деца в гигантски Дисниленд – поддържани не от хора, а от тези машини, които сме създали“, казва Бостром, директор на Института за бъдещето на човечеството на Оксфордския университет и авторът на Superintelligence: Paths, Dangers, Strategies.

В зависимост от това къде се намирате, това може да звучи като утопична фантазия или дистопичен кошмар. Bostrom е наясно с това. Той мисли за появата на свръхинтелигентен ИИ от десетилетия и е добре запознат с рисковете, свързани с подобни творения. Съществува класическият научнофантастичен кошмар на роботска революция, разбира се, където машините решават, че предпочитат да контролират Земята. Но може би по-вероятно е възможността моралният кодекс на свръхинтелигентния ИИ – какъвто и да е той – просто да не се подчинява на нашия собствен. Един ИИ, отговорен за автопарковете на самоуправляващи се автомобили или за разпространението на медицински консумативи, може да причини хаос, ако не успее да оцени човешкия живот по същия начин, както ние.

Проблемът с подравняването на ИИ, както се нарича, има взеха нова спешност през последните години, отчасти поради работата на футуристи като Bostrom. Ако не можем да контролираме свръхинтелигентен ИИ, тогава съдбата ни може да зависи от това дали бъдещите машинни интелигентности мислят като нас. На този фронт Bostrom ни напомня, че се полагат усилия за „проектиране на AI по такъв начин, че той всъщност да избере неща, които са полезни за хората, и би избрал да ни поиска разяснения, когато не е сигурно какво възнамеряваме. ”

Има начини да научим човешкия морал на зараждащото се свръхразузнаване. Алгоритмите за машинно обучение биха могли да бъдат научени да разпознават човешките ценностни системи, подобно на това, че днес се обучават в бази данни с изображения и текстове. Или различни AI биха могли да обсъждат помежду си, под надзора на човешки модератор, за да изградят по-добри модели на човешките предпочитания.

Но моралът реже и двата начина.

Скоро може да има ден, Bostrom казва, когато ще трябва да обмислим не само как се чувства ИИ към нас, а просто как се чувства. „Ако имаме машинна интелигентност, която се превръща в изкуствен, дигитален ум“, продължава той, „тогава става и етичен въпрос [за] как ние им влияем.“

В тази епоха на съзнателните машини хората могат просто имам новооткрито морално задължение да се отнасяме с цифрови същества с уважение. Наречете го Златното правило на 21-ви век.

http://discovermagazine.com/technology/the-singularity-will-redefine-what-it-means-to-be-human-and-machine
Преводът е осигурен от „Google translate“. Посетете  линка свързан със заглавието над краткия текст за да прочетете пълния текст в оригинал.