Андреј Ткачов: ЧУВАЈ СЕ ЕФИКАСНИХ ИДИОТА

По питању вештачке интелигенције… На крају совјетског периода, ову тему је проучавао Михаил Мојсејевич Ботвиник. Најпре је решавао шаховске проблеме, затим друге, све до разраде економских модела. О томе постоји биографски документ.

Тако је Ботвиник, упоређујући интелектуални рад живог човека и машине, рекао следеће: људски ум обухвата мању варијабилност података, али дејствује као песник. Он интуитивно осећа лепоту и, заправо, тражи њу. А машина дејствује као веома ефикасан идиот.

*

Такође се чини важним да ће се због опонашања људске активности (мисао, управљање, стварање) вештачка интелигенција веома свидети неморалним људима, на пример, онима који нагињу разним врстама изопачености. Машина не пати од савести и ради ефективно. Постоји велико искушење да неко (и то не само један човек) буде заведен идејом да повећа сопствену делотворност и да се истовремено „излечи“ од моралних колебања. У ствари, то и јесте главна опасност ове теме – дехуманизација личности зарад менаџерског успеха.

*

Занимљиво је да ова тема уопште није нова. Јеврејска средњовековна мисао је ту тему покренула, па је чак и решавала на нивоу прогнозе. Треба да се окренемо миту (или легенди) о Голему. То је управо тема оживљавања мртве материје да би служила потребама заједнице, људског колектива. Цела наша машинска цивилизација је, ако хоћете, огроман Голем који служи човечанству. А вештачка интелигенција је само најновија разрада у већ постојећој индустрији.

*

Дакле, средњовековна религиозна мисао нас упозорава на опасност претераног оптимизма. Испоставља се да ће Голем обавезно измаћи контроли, са већим или мањим последицама. И он ће морати да буде неутралисан и уништен. (Ово је попут командно-штабне вежбе, која у свим сценаријима показује неприхватљиве губитке.)

И уопште, ако неко мисли да је иноватор, нека се мало удуби у анале. Ако не средњовековна, онда је античка мисао свакако суштински испитивала наше „свеже“ проблеме. Просто, древним људима је било довољно да теоријски размотре предмет, да схвате слабе и опасне тачке и затворе тему. Али савремени човек то не уме.

(Телеграм канал А. Ткачова; превео Ж. Никчевић)