3o4o.net

Невроученият (neuroscientist huh ) Ед Бойдън разсъждава относно възможните опасности при изграждането на супер-интелигетни машини, без да сме им заложили някакъв вид мотивационни инстинкти/сили/стремления. Бойдън Предупреждава, че някой твърде умен ИИ без чувство за цел може да прецени неизбежността на всичко, да изчисли, че Слънцето ще угасне след няколко милиарда години и да реши да играе електронни игри през цялото време, което му е отредено до тогава. Бойдън отбелязва също, сложността и несигурността на вселената може съвсем лесно да "претовари" процеса на вземане на решения на подобен интелект - проблем, с който се сблъскват и много хора. Авторът ще говори по темата на предстоящия Singularity Summit.

PS

Всъщност, тя е адски важна и за нас. Вас какво ви мотивира най-много? Хедонизмът?

Да, ама естественият интелект си е намерил начини да се справя със сложността и несигурността на вселената, значи е по-умен от онзи ужасно умния ИИ, дето още не са го измислили.
Ще трябва да им съчинят и психология на ИИ-тата, някой друг комплекс да им образуват за преодоляване, много работа имат още, много.

Какво ме мотивира най-много за какво?