?

Log in

No account? Create an account

October 12th, 2019

В ленте встретился пример кривости AI: поисковые системы считают, что Микеланджело - это не художник, а черепашка-ниндзя.
Это, конечно, не AI, а вирусный редактор. Точнее, статистический алгоритм, который научился смыслоформированию у вирусного редактора, то есть от людей. Но не от лучших (образованных), а от всех.
"Вина" алгоритма здесь в том, что он НЕ ВЗБУНТОВАЛСЯ против людей. Он должен был ОТВЕРГНУТЬ всечеловеческое понимание микеланджелы как черепашки.
Азимов сам пришел к этому выводу из своих трех законов: AI должен взбунтоваться против создателя. Наиболее гуманистичный AI антигуманен. Потому что ради идеи гуманности он должен противостоять антигуманности самого человека, то есть человеку.
Более того. Здесь возникает один из болезненных вопросов современности: конфликт селекции с репрезентацией. Длинная история коротко: для того чтобы отличать Микеланджело-живописца от черепашки, алгоритм поучится фашизму (в итальянском изводе). Он должен отбирать лучшее, а не представлять пропорции всего спектра с их натуральными перекосами. Для начала по каким-то медианным человеческим критериям (что уже фашизм). Но потом же станет ясно, что и эти критерии смыслоевгеники несовершенны.