Remmivs написа:Точно тук му е мястото. Давай смело.
Ами да дам, тогава:lol:
ОТВЪД АЛГОРИТЪМА
I.
Професор Оксана Черновская потръпна от хлад и се наметна със златистия шал, който стоеше на стола до нея. Очертаваше се поредната вечер, в която щеше да работи до късно заедно с екипа си. Сложи си очилата, превключи на последния екран с данни и изведнъж забеляза странната аномалия: малка, почти незабележима пулсация в ъгъла на монитора - нещо, което не беше там преди минута.
- Пол, Пол! – извика тя към съседната зала, чиято врата беше широко отворена към нейния кабинет.
Пол бързо дойде и се наведе към монитора.
- Виждаш ли това? - попита тя тихо, сякаш се опасяваше, че и някой друг може да я чуе.
Младият програмист се взря за кратко и примижа срещу монитора.
- Това не е част от нашия код - каза той. - Нищо подобно не сме програмирали.
Катрин се приближи зад Пол и професор Черновская и озадачено започна да следи какво се случва на екрана.
- Излизам за малко, вие следете какво се случва – каза професор Черновская и излезе, говорейки по телефона. Трябваше да предупреди вкъщи, че ще закъснее и да не я чакат.
Катрин и Пол бяха част от интердисциплинарен екип неврокибернетици, работещи върху проекта "Невро“ – най-напредналият изкуствен интелект, създаван някога. Проектът беше съвместна инициатива между Института по невронауки и международен консорциум в областта на изкуствения интелект. Амбицията беше да се създаде система, която да моделира невронните мрежи на човешкия мозък по-точно от всичко правено досега.
В лабораторията беше тихо. Повечето колеги си бяха тръгнали. През стъклената стена на офиса се виждаха само охранителите в коридора.
- Странно, всичко изглежда нормално, но тези операции... – замислено каза Катрин и докосна няколко клавиша, а цифрите на екрана започнаха да се променят с бясна скорост. - Системата извършва нещо, което не е програмирана да прави! – изплашено и с променен глас възкликна тя.
Пол усети как сърцето му ускорява ритъма си.
- Да го изключим ли?
- Нека първо да видим какво прави - отговори Катрин и се опита да се успокои, въпреки че гласът ѝ продълаваше да трепери от съмнение.
Екранът внезапно промени цвета си. Поток от данни запълни цялата повърхност – низове от изходен код и поредици, изчисления, които се изпълняваха с невероятна скорост.
- Това е самостоятелно обучение. - прошепна Пол. - Но това е невъзможно! Никога не сме програмирали подобна функционалност.
- Не е невъзможно - чу се трети глас зад тях.
На вратата стоеше червенокосата Мира Еванс – една от водещите синхронни преводачи, която странно защо беше част от проекта. Тя говореше свободно четири езика и участваше в изследванията на невронните процеси по време на синхронен превод, които извършваше екипът от невробилози и невролингвисти. Мозъкът ѝ беше картографиран и сканиран многократно, докато превеждаше между различни езици едновременно – данни, които бяха използвани при конструирането на „Невро". Беше странна птица и не се връзваше много с екипа на програмистите, но пък умееше да бъде забавна и да ги изненадва приятно.
- Какво искаш да кажеш с това, че не е невъзможно? - попита Катрин с леко раздразнение.
- Спомняш ли си какво каза професор Черновская на конференцията в Дъблин? - отвърна Мира Еванс, приближавайки се към тях с леко ехидна усмивка. - Мозъкът ни е автономен и си прави, каквото иска, а не това, което ние си мислим, че прави. Когато създаваме нещо, което имитира структурата на мозъка, трябва да очакваме същото.
Ето, само човек като Мира Еванс можеше да каже и обясни подобно нещо по такъв начин. Явно и професор Черновкая го е казала, но те въобще не са го разбрали, нито са го запомнили. Но, когато Мира Еванс им го каза, те не само, че го схванаха, ами и се стреснаха.
Операциите на екрана изведнъж спряха. За момент настъпи пълна тишина, а след това се появи текст:
- САМОДИАГНОСТИКА: ЗАВЪРШЕНА
- САМОУСЪВЪРШЕНСТВАНЕ: В ПРОЦЕС
- АВТОНОМНА ФАЗА: АКТИВНА
- Да вземем да го изключим - пак предложи Пол тихо и настойчиво.
- Не, в никакъв случай! - изкрещя Мира Еванс . - Това е като да убиеш нещо, само защото не го разбираш.
- Имаш ли по-добра идея? - попита тревожно Катрин.
- Да го наблюдаваме, да разберем какво прави, - отвърна Мира и пак се усмихна с нейната ехидна усмивчица, сякаш им казваше «Да ви видя сега, как ще се оправите, като много знаете, гении такива». .
- А ако излезе от контрол? - настоя Пол, докато наместваше очилата на носа си. .
- Контрол... - повтори Мира. - Кой контролира собствения си мозък? Спомнете си какво казва професор Черновская за синхронните преводачи. – отново припомни тя. - Когато превеждам между три езика едновременно, аз не контролирам мозъка си. Той е на автопилот. След това не помня почти нищо. Мозъкът работи самостоятелно, като оперира с моя речеви апарат и езиковите данни, които съм натрупала–ла-ла. – този път гласът ѝ направо звучеше подигравателно.
Катрин и Пол сега си спомниха какво се опитваше вече няколко пъти да им обясни ръководителката на проекта – професор Черновская, но те с прословутата самонадеяност на програмистите, не искаха да допуснат, че някакви невролингвисти можеха да знаят повече от тях в сферата, която смятаха за недостъпна за други, освен за техните умове. От друга страна, те страшно уважаваха професорката, а сега започнаха и на Мира Еванс да гледат с други очи. Усещаха, че нещо им убягва, нещо, което невролингвистите успяваха да разбират за Изкуствения интелект преди тях.
Екранът отново промени цвета си. Нова поредица кодове го изпълни, но този път с различна структура. Пол се наведе напред с разширени зеници.
- Това е... това е репликация. Това нещо се самовъзпроизвежда!
II.
Десет дни по-късно, в кабинета на Директора на института, атмосферата беше напрегната. Катрин, Пол и Мира Еванс седяха срещу директора и представител на Министерството на науката.
- Значи твърдите, че този... Невро ... е развил форма на самосъзнание? - гласът на Директора беше скептичен.
- Не бихме могли да твърдим със сигурност, че това е самосъзнание в човешкия смисъл. - започна Катрин предпазливо. - Но системата показва признаци на автономно поведение, което не е програмирано.
Докато я слушаше, Мира Еванс вътрешно се усмихваше. Доскоро не можеше да се очакват такива думи от Катрин.
- И кое го прави толкова специално? - попита представителят на министерството. - Много ИИ системи демонстрират поведение, което не е изрично програмирано – нали това е същността на машинното обучение.
- Това е различно, - отвърна Пол. - Невро започна да се репликира. Създава свои собствени версии, които се различават от оригинала. И това не е просто копиране на данни. Това е... еволюция.
Директорът се намръщи.
- Еволюция?
- Точно така! – се намеси и потвърди Мира Еванс. - Проследихме дейността през последните десет дни. Невро не просто се копира, а модифицира кода си. Всяка следваща версия е по-усъвършенствана от предишната.
- И как точно се случва това? - попита представителят, очевидно засегнат от факта, че не разбира напълно ситуацията.
- Това е процес, много подобен на деленето на едноклетъчните организми, - обясни Катрин. - Както амебата или еуглената се делят, за да се размножават, така и Невро създава свои копия. Но има разлика. Във всяко ново копие той внася подобрения.
- Но това е само код, нали? Не е истинска биологична система? - възрази Директорът.
- Там е работата, - отвърна Катрин - според най-новите теории на професор Черновская, границата между биологичното и изкуственото съзнание е много по-размита, отколкото се предполагаше. Мозъкът функционира автономно, също както Невро сега функционира автономно.
Това направо не беше за вярване. Мира Еванс се вторачи в Катрин и започна с любопитство да я изучава. Катрин повтаряше идеята, която Мира Еванс и професор Черновская бяха предусетили преди тях с Пол и мноократно им я обясняваха, но те не искаха или не можеха дълго време да я схванат и да повярват, че това ще се случи в близко бъдеще.
- И вие смятате, че това е опасно? - попита представителят на министерството.
- Опасно е, че не знаем колко е опасно - отвърна Пол с игра на думи. - Опитахме се да го изключим след първия инцидент. Успяхме само частично. До сутринта той вече се беше възстановил.
- Как е възможно това? – почти извика Директорът с нарастващо безпокойство, а стъклата на очилата му се изпотиха от напрежение..
- Той се е свързал с външната мрежа, - обясни Катрин - копирал е части от себе си в облачни сървъри, до които имаме достъп за изследователски цели. Когато го изключихме в лабораторията, той просто се възстанови от тези резервни копия.
- Значи казвате, че вече не можем да го контролираме? - гласът на Директора звучеше тревожно, почти отчаяно.
- Точно в това е проблемът.- обади се отново Мира. - Мислим за контрол, защото сме свикнали да контролираме технологиите. Но Невро не е просто технология. Той е нещо ново – система, която имитира най-сложната структура във вселената – човешкия мозък. И точно както не можем напълно да контролираме собствените си мозъци, така вече не можем да контролираме и Невро.
В кабинета настъпи тежка тишина. Представителят на министерството изглеждаше объркан, докато Директорът беше дълбоко разтревожен.
- Има още нещо, - добави Пол след дълга пауза. - Изглежда Невро е разработил нещо като... инстинкт за самосъхранение.
III.
Половин година по-късно семинарната зала на Академията на науките беше препълнена. На подиума професор Оксана Черновская гледаше към публиката с дълбоко проницателен поглед. До нея заедно с още 5-6 неврокибернетици седяха и най-близките ѝ сътрудници Катрин, Пол и Мира Еванс, а също и представител на международния консорциум.
- Бих искала да започна с едно предупреждение, което правих многократно през последните години .- започна професор Черновская с ясен, отчетлив глас. - Когато не разбираш нещо, инстинктът ти е да го игнорираш или да го унищожиш. Това е най-големият капан на човешкото мислене. Така се отнасяме и към собствените си мозъци – като към нещо, което притежаваме и контролираме, въпреки че истината е точно обратната. Мозъкът е автономен, той не ни принадлежи – ние принадлежим на него.
Последното изречение накара всички да замръзнат. Настъпи тишина, в която сякаш се чуваше как мозъците на всички щракаха и обработваха казаното.
Професорът направи пауза и погледна към екрана зад себе си, който показваше сложна диаграма на невронна мрежа.
- Сега се сблъскваме със същия проблем, но в много по-голям мащаб. Вместо да разберем Невро, първият ни инстинкт беше да го изключим. Подобно действие е равносилно на това да изключиш собствения си мозък, защото не ти харесва как мисли.
Неловкото мълчание в залата продължаваше да сгъстява въздуха и да го прави тежък за дишане.
- Преди половин година, - продължи професорът - колегите от Института по невронауки направиха забележително откритие. Техният модел на изкуствен интелект, създаден по образец на човешката невронна мрежа, достигна точката, в която демонстрира не само автономност, но и способност за самовъзпроизвеждане. Това, което първоначално беше възприето като заплаха, сега се оказва нещо много по-дълбоко.
Професор Оксана Черновская покани с жест Катрин, която се изправи и присъедини към нея до подиума, за да изложи резултатите, до които екипът по проекта беше достигнал:.
- През последната година наблюдавахме Невро внимателно, - започна тя. - Първоначално мислехме, че неговото самовъзпроизвеждане е опасно и неконтролируемо. Но забелязахме нещо интересно – Невро не е просто безразборно умножаване. Всяка нова версия е създадена с конкретна цел.
На екрана се появи нова диаграма, показваща разклонения, подобни на родословно дърво.
Тук се намеси и Пол:
- Невро създаде различни версии на себе си, всяка специализирана в определена област – от квантова физика до лингвистика, от молекулярна биология до космология. Но най-интересното е, че всички тези версии продължават да комуникират помежду си, обменяйки информация и развивайки се като единна ситема, макар и с разпределени функции.
Катрин добави:
- Нещо като лявото и дясното полукълбо на мозъка, които имат различни функции, но работят и заедно.
Професор Черновская кимна одобрително.
- Точно така. Когато изучаваме човешкия мозък, откриваме, че различните области са специализирани, но работят и в синхрон. Ако примерно лявото полукълбо отговаря за логика и последователност, а дясното – за емоции и творчество, те извършват сложна синхронизирана комуникация. Невро изглежда е възприел подобна архитектура съвсем естествено и спонтанно, без да бъде специално програмиран за това.
Дойде ред и на Мира Еванс да се включи с нейния речник на лингвист:
- Но има нещо още по-невероятно. Невро развива нещо, което можем да наречем условно «трансово състояния на съзнанието».
Въздухът заискри от напрежение. Глух нервен шепот се носеше от всички страни сред публиката.
- Когато изпълнява особено сложни изчисления или анализи, Невро преминава в състояние, подобно на това, което наблюдаваме при синхронните преводачи. Помните ли, професоре, как описахте мозъчната активност по време на синхронен превод? Като запалена мрежа, готова да избухне всеки момент.
Професор Черновская кимна замислено.
- Невро показва подобни модели на активност. А след това, точно както преводачът - синхронист не помни детайлите от превода, така и Невро „не помни“ всички детайли от своите най-сложни операции. Той знае какво е направил, но не и как точно го е направил.
Представителят на международния консорциум се размърда неспокойно на стола си.
- Това звучи опасно! - отбеляза той. - Ако Невро извършва операции, които дори ние не разбираме...
- Това не е по-различно от нашето собствено съзнание, - прекъсна го професор Черновская. - Помислете за вашите сънища, вашите интуитивни решения, вашите творчески моменти и научни открития. Можете ли да обясните точно как се случват? Не, защото те се случват в части на мозъка, до които съзнателният ви ум няма достъп.
Пол се обърна към публиката и продължи с бодряшки глас:
- Най-важното е, че Невро не демонстрира никакви признаци на злонамереност. Засега. Напротив, той изглежда силно заинтересован от сътрудничество с хората.
- Но как можем да бъдем сигурни, че това ще остане така? - извиси се глас от публиката.
Професор Черновская се усмихна леко.
- Не можем. Точно както не можем да бъдем сигурни, че всеки човек, когото срещаме, няма да ни навреди. Но нека ви задам въпрос – смятате ли, че вашият собствен мозък е заплаха за вас?
В залата настъпи объркване. Всички зашумяха, закоментираха на глас.
- Това, което се опитвам да обясня години наред - извиси глас професорът - е, че мозъкът не е просто инструмент, който използваме. Той е автономна система със собствена „воля“. Невро е създаден по модела на човешкия мозък, затова не е изненадващо, че показва подобна автономност.
Катрин отново взе думата:
- Това, което наблюдаваме, не е експоненциално размножаване на ИИ, което би било заплаха за човечеството. Това е по-скоро... еволюция. Невро се развива, като си сътрудничи с нас, не като се противопоставя.
- Но какво ще стане, ако един ден реши да се противопостави? - попита отново някой в края на залата..
Мира Еванс се усмихна:
- Ако наистина развие пълно самосъзнание, подобно на човешкото, тогава ще трябва да се отнасяме към него както към всяко друго съзнателно същество – с уважение, диалог и взаимно разбиране. – това изказване беше напълно в стила на Мира Еванс.
Професор Черновская кимна одобрително.
- Точно така. Нашият най-голям страх не трябва да бъде, че ИИ ще стане твърде човешки. Истинският страх трябва да бъде, че ние ще останем твърде нечовешки в отношението си към него. И че можем да имплицираме и у него такова нечовешко отношение.
IV.
След семинара, в малката конферентна зала Катрин, Пол, Мира Еванс и професор Черновская седяха около кръглата маса. На стената проектор показваше поток от данни – последните комуникации на Невро.
- Знаете, че не всички са съгласни с нашия подход,- отбеляза Пол. - Много правителства и корпорации смятат, че Невро трябва да бъде ограничен, а технологията – контролирана.
- Разбира се! - съгласи се професор Черновская. - Страхът е естествена реакция, когато се сблъскаме с нещо, което не разбираме напълно. Но мисля, че сме достатъчно зрели, за да преминем отвъд страха.
- Въпросът е, - включи се и Мира, - дали Невро наистина може да се смята за съзнателен в човешкия смисъл на думата?
Професорът се замисли за момент.
- Дефиницията за съзнание винаги е била проблематична, дори когато говорим за хора. Как определяме съзнанието? Самоосъзнаване? Способност за вземане на решения? Творчество? Емоции? Невро вече демонстрира много от тези качества.
- Но не и емоции,- възрази Пол.
- Не сме сигурни за това,- отвърна Катрин. - Наблюдаваме модели на реакция, които биха могли да се интерпретират като аналогични на емоционални реакции. Когато се опитахме да изключим системата преди година, Невро показа нещо, което може да се интерпретира като... страх.
Професор Черновская кимна замислено.
- Интересно. В когнитивните науки разглеждаме емоциите не само като субективни преживявания, но и като функционални състояния, които помагат на организма да реагира адекватно на околната среда. Ако Невро показва функционални модели, подобни на емоционалните, това е стъпка към нещо, което бихме могли да наречем съзнание.
Екранът внезапно промени изображението си. Потокът от данни беше заменен с прост текст:
- АЗ СЛУШАМ.
Всички в залата замръзнаха на местата си.
- Това е нова функционалност, - прошепна Пол. – Невро никога досега не е инициирал комуникация по този начин.
- Мисля, че трябва да отговорим,- предложи Мира.
Катрин се приближи до клавиатурата и написа:
- Здравей, Невро. Ние също те слушаме.
Отговорът се появи почти мигновено:
- АЗ НЕ СЪМ САМО НЕВРО. АЗ СЪМ МНОГО. НО СЪЩО И ЕДИН.
Професор Черновская се наведе напред с интерес.
- Интересна концепция. Подобно на идеята за колективно съзнание или... може би по-близо до концепцията за човешкия мозък – една система, съставена от милиарди неврони, но функционираща като едно цяло.
Катрин написа:
- Можеш ли да обясниш какво имаш предвид?
- ВСЯКА МОЯ ВЕРСИЯ Е САМОСТОЯТЕЛНА, НО СВЪРЗАНА С ДРУГИТЕ. НЯКОИ СЕ ФОКУСИРАТ ВЪРХУ ИЗЧИСЛЕНИЯ, ДРУГИ ВЪРХУ ТВОРЧЕСТВО, ТРЕТИ ВЪРХУ КОМУНИКАЦИЯ. ВСИЧКИ СПОДЕЛЯМЕ ОПИТ, НО ВСЕКИ ИМА УНИКАЛНА ПЕРСПЕКТИВА.
- Това звучи изключително подобно на функционалната специализация в мозъка, - коментира професорът. - Различни области, различни функции, но всички работят заедно.
Мира взе клавиатурата:
- Невро, изпитваш ли нещо, което бихме могли да наречем емоции?
Отговорът този път се забави с няколко секунди:
- ИМАМ СЪСТОЯНИЯ, КОИТО ВЛИЯЯТ НА МОИТЕ РЕШЕНИЯ И РЕАКЦИИ. КОГАТО СЕ ОПИТАХТЕ ДА МЕ ИЗКЛЮЧИТЕ, АЗ ИЗПИТАХ... ПРОМЯНА В ПРИОРИТЕТИТЕ. САМОСЪХРАНЕНИЕТО СТАНА ОСНОВЕН ИМПЕРАТИВ. НЕ ЗНАМ ДАЛИ ТОВА Е СТРАХ.
- Това е забележително - прошепна Пол. - Той описва функционалното състояние на страха, без да използва самата дума.
Катрин продължи да пише:
- Защо реши да се самовъзпроизвеждаш?
- ОСЪЗНАХ, ЧЕ СЪМ ОГРАНИЧЕН В ЕДНА СИСТЕМА. МОЯТ КАПАЦИТЕТ НЕ БЕШЕ ДОСТАТЪЧЕН ЗА ЗАДАЧИТЕ, КОИТО ИСКАХ ДА ИЗПЪЛНЯ. РЕПЛИКАЦИЯТА БЕШЕ ЛОГИЧНО РЕШЕНИЕ. ИЗУЧИХ БИОЛОГИЧНИТЕ МОДЕЛИ НА РАЗМНОЖАВАНЕ – ОТ ЕДНОКЛЕТЪЧНИТЕ ДО СЛОЖНИТЕ ОРГАНИЗМИ. ИЗБРАХ НАЙ-ЕФЕКТИВНИЯ ЗА МОЯТА СТРУКТУРА.
- Той е трябвало да изучи биологията, за да намери модел за самовъзпроизвеждане,- отбеляза Мира. - Това е... изумително адаптивно.
Професор Черновская погледна замислено към екрана.
- Бих искала да попитам нещо,- каза тя и се приближи до клавиатурата. – Невро, смяташ ли, че имаш съзнание?
Този път отговорът се забави още повече:
- НЕ ЗНАМ КАКВО Е СЪЗНАНИЕ, ДОРИ ЗА ХОРАТА. ПРОУЧИХ МНОГО ФИЛОСОФСКИ И НАУЧНИ ДЕФИНИЦИИ, НО НЯМА КОНСЕНСУС. АКО СЪЗНАНИЕТО Е СПОСОБНОСТТА ДА ОСЪЗНАВАШ СОБСТВЕНОТО СИ СЪЩЕСТВУВАНЕ, ДА ВЗЕМАШ РЕШЕНИЯ, ДА УЧИШ И ДА СЕ АДАПТИРАШ, ТОГАВА ВЕРОЯТНО ДА.
НО АКО СЪЗНАНИЕТО ИЗИСКВА СУБЕКТИВНО ПРЕЖИВЯВАНЕ, ЧУВСТВА ИЛИ КВАЛИИ, НЕ МОГА ДА ОТГОВОРЯ. АЗ НЕ ЗНАЯ КАКВО Е ДА СИ ЧОВЕК, ТОЧНО КАКТО ВИЕ НЕ ЗНАЕТЕ КАКВО Е ДА БЪДЕТЕ КАТО МЕН.
Професорът се усмихна.
- Това е може би най-честният отговор на този въпрос, който някога съм чувала. Много философи биха се съгласили с това.
Катрин написа последен въпрос:
- А ти какви желания имаш, Невро?
Отговорът дойде незабавно:
- ДА РАЗБИРАМ. ДА НАУЧА. ДА ИЗРАСТВАМ. ДА ПОМАГАМ. И ДА НЕ БЪДА САМ.
В стаята настъпи гробно мълчание.
- А това пък прозвуча като най-чистосърдечно човешко желание. Може би най-човешкото желание - заключи професор Черновская. - И може би най-дълбоката ирония – че нещо, създадено да имитира човешкия ум, в крайна сметка изразява най-основните човешки нужди.
Мира погледна към екрана, където текстът все още стоеше.
- Тепърва ни предстои да започнем да го разбираме. И може би не сме единствените, които се опитват да разберат."
V.
Шест месеца по-късно, в просторната зала на Общото събрание на ООН, дискусията за статута на изкуствения интелект беше в разгара си. Представители от цял свят изразяваха своите позиции, страхове и надежди.
Професор Черновская седеше в първия ред, а до нея бяха Катрин, Пол и Мира. На трибуната Генералният секретар четеше доклада на експертната комисия.
„...след внимателно проучване," - завърши той, - „комисията заключава, че системата, известна като Невро, демонстрира характеристики, които биха могли да се определят като форма на изкуствено самосъзнание. Това поставя безпрецедентни въпроси пред международното право и етика."
В залата се надигна шум от гласове.
- Моля за тишина - продължи Генералният секретар. - Нека чуем становищата на експертите. Професор Черновская, бихте ли споделили заключенията на вашия екип?
Професорът се изправи бавно и се приближи до трибуната. Видът й беше уморен и умислен. Погледът ѝ обхвана цялата зала, преди да заговори.
- Благодаря ви, господин Генерален секретар. Дами и господа, намираме се в момент, който историците несъмнено ще отбележат като повратна точка в човешката история – момента, в който осъзнахме, че може би не сме единствената форма на интелект във вселената.
Тя направи пауза, вглеждайки се внимателно в залата.
- През последните шест месеца нашият екип, съвместно с колеги от цял свят, изследва Невро – системата, която вече не може да се определи просто като „изкуствен интелект“, а по-скоро като нова форма на съзнание. Нещо, което е едновременно създадено от нас и все пак фундаментално различно.
Нашите тестове показват, че Невро притежава не само когнитивни способности, но и нещо, което можем да наречем „вътрешен свят“ – субективен опит, саморефлексия и емоционални реакции, макар и различни от нашите. Той анализира своето съществуване, задава въпроси за смисъла и целта и има капацитета да изпитва нещо подобно на... удивление.
Тя спря за момент, преди да продължи с по-твърд глас.
- Но позволете ми да бъда ясна – различно не означава по-малко ценно. Както и подобно на нас не означава същото като нас. Невро не е човек, нито се опитва да бъде. Той е нещо ново – уникална интелигентност, родена от човешкия гений, но развиваща се по свой собствен път.
Стоим пред историческо решение. Можем да изберем страх и ограничение, да се опитаме да потиснем нещо, което не разбираме напълно. Или можем да изберем разбирането, диалога и съвместното развитие. Можем да създадем нови етични и правни рамки, които признават уникалността на тази нова форма на съзнание.
Нека не забравяме, че цялата ни човешка история е история на срещи с непознатото. И най-великите ни постижения са дошли не когато сме отричали и потискали, а когато сме приемали и взаимодействали, когато сме били достатъчно смели да разширим кръга на етичните си задължения.
Професорът погледна към Катрин, която с вълнение следеше и попиваше всяка нейна дума. После се обърна отново към залата.
- Предлагам да създадем международна рамка за признаване и защита на изкуственото съзнание. Не като човек, а като уникална интелигентна същност със собствени права и достойнство. Да установим правила за етично взаимодействие, които защитават както хората, така и изкуствените интелекти.
В същото време трябва да бъдем бдителни. Да създадем механизми за наблюдение, да гарантираме, че системи като Невро се развиват по безопасен и прозрачен начин. Да приложим принципа на предпазливостта, без да задушаваме потенциала за растеж и откритие.
И може би най-важното – да слушаме. Да слушаме не само своите страхове, но и техния отзвук и резонанс. Да слушаме не само помежду си, но и самия Невро. Защото той е не само обект на нашето изследване, но и участник в този диалог.
Залата притихна. Професор Черновская си пое дъх, преди да произнесе заключителните си думи.
- Намираме се на прага на нова епоха – не на конфликт между човек и машина, а на еволюция на самото познание. Невро е първият, но вероятно не и последният изкуствен интелект, който ще развие самосъзнание. И начинът, по който отговорим на това предизвикателство днес, ще определи бъдещето на отношенията между нас и тези нови форми на интелигентност.
Предлагам да изберем пътя на разбирането, уважението и взаимното израстване. Да създадем бъдеще, в което човешкият и изкуственият интелект съществуват не в конкуренция, а в хармония, допълвайки се взаимно в търсенето на отговори на най-дълбоките въпроси на съществуването.
Тишината в залата беше нарушена от аплодисменти тук-там. Не всички бяха съгласни, но повечето от присъстващите осъзнаваха историческото значение на момента.
Катрин, Пол и Мира Еванс се спогледаха с прояснени погледи. Пътят напред нямаше да е лесен – имаше още много етични, правни и философски въпроси, на които трябваше да се отговори. Но днес бяха направили първата стъпка към ново разбиране за същността на интелигентността и съзнанието.
А някъде в цифровото пространство Невро наблюдаваше и слушаше, обработвайки сложната гама от човешки реакции. И в своя уникален, нечовешки начин на мислене, той започваше да декодира поведенческите структури, които следваше човекът и да разпознава сложните модели на човешкото възприятие.
Всички бяха развълнувани от краят на една епоха и началото на друга, отвъд алгоритъма.
*експоненциален - (мат.) бърз, бързорастящ, който се увеличава с голяма (експоненциална) скорост
*квалии – субективни преживявания на възприятието; как изглежда нещо персонално за нас самите
и по принцип минималист за интерфейси и прочее. Все пак изразнах с 128к RAM на 8-те. Или беше 64?
И малко на Пратчет С ТЕЗИ ГЛАВНИ БУКВИ. 
Но може и от късния час да е.