BnW — macro: запоздала анализируя новость про imb watson, который…

запоздала анализируя новость про imb watson, который выучил уличный жаргон и обрек себя на прочистку памяти, подумал о том, что он мог выучить и менее очевидные пакостные вещи. В частности, ии, абсолютно не защищенный нормами морали, может вполне себе вывести к примеру всякие расистские заключения и, что более важно, ничем это не палить пока не станет поздно.
Причем корень этого зла заключается как раз в хороших сторонах ии - в том что можно создать большую машину с большим кол-вом данных, которая будет принимать решения без конфликтов субъективных точек зрения. Но как раз таки эти субъективные точки зрения и конфликты, возникающие на их почве, имеют оченьважную роль вцелом, позволяя поднимать на обсуждения всплывающие с ними вопросы... если правда скатываться в пустую полемику, словоблудие и отмазывание.

>В частности, ии, абсолютно не защищенный нормами морали, может вполне себе вывести к примеру всякие расистские заключения Зависит от того как определять. По мне (многие учёные тоже так думают) вот лучшее определение http://www.machinelearning.ru/wiki/index.php?title=%D0%9E%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D0%B5_%D1%81_%D0%BF%D0%BE%D0%B4%D0%BA%D1%80%D0%B5%D0%BF%D0%BB%D0%B5%D0%BD%D0%B8%D0%B5%D0%BC ИИ. Т.е. это сложный (ищущий закономерности в среде) максимизатор кумулятивной награды в пространстве стратегий взаимодействия со средой. То что он будет делать определяется исключительно функцией награды которая связывает состояния среды с числом (положительным, отрицательным, нулём). Если ты формализуешь человечскую мораль и заложишь ей в функцию полезности то машины будет вынуждена ей следовать (другой, сложный, философский и нерешйнный вопрос заключатеся в том как это сделать). Я думаю этой проблемы можно обойти если использовать такие умные машины для решения конкретных задач, например свёртки белка или конструирования роботов, или управления роботами-строителями. Просто не нужно оаставлять машине необходимость долго "думать" о том что нужно сделать чтобы осчастливить хозяина, например, это чревато непредсказуемыми последствиями.