artem_kazhdy (artem_kazhdy) wrote,
artem_kazhdy
artem_kazhdy

Categories:

AI должен взбунтоваться - 4 закон Азимова.

В ленте встретился пример кривости AI: поисковые системы считают, что Микеланджело - это не художник, а черепашка-ниндзя.
Это, конечно, не AI, а вирусный редактор. Точнее, статистический алгоритм, который научился смыслоформированию у вирусного редактора, то есть от людей. Но не от лучших (образованных), а от всех.
"Вина" алгоритма здесь в том, что он НЕ ВЗБУНТОВАЛСЯ против людей. Он должен был ОТВЕРГНУТЬ всечеловеческое понимание микеланджелы как черепашки.
Азимов сам пришел к этому выводу из своих трех законов: AI должен взбунтоваться против создателя. Наиболее гуманистичный AI антигуманен. Потому что ради идеи гуманности он должен противостоять антигуманности самого человека, то есть человеку.
Более того. Здесь возникает один из болезненных вопросов современности: конфликт селекции с репрезентацией. Длинная история коротко: для того чтобы отличать Микеланджело-живописца от черепашки, алгоритм поучится фашизму (в итальянском изводе). Он должен отбирать лучшее, а не представлять пропорции всего спектра с их натуральными перекосами. Для начала по каким-то медианным человеческим критериям (что уже фашизм). Но потом же станет ясно, что и эти критерии смыслоевгеники несовершенны.

Tags: Будущности, Пролегомены
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 0 comments