Медведев назвал основные риски нерегулируемого развития ИИ.
Зампред Совбеза РФ Дмитрий Медведев в статье для журнала «Эксперт» отмечает, что искусственный интеллект является одной из пяти технологий, которые изменят будущее человечества. В то же время, у развития ИИ есть и оборотная сторона, которая несет существенные риски.
Широкое использование ИИ ставит под угрозу рабочие места миллионов людей и, как следствие, создает предпосылки для экспоненциального роста безработицы и нарушения международных цепочек разделения труда,
— пишет Медведев в статье.
Еще одной проблемой зампред Совбеза РФ видит уязвимость критически важной инфраструктуры перед хакерскими атаками.
Сейчас уже просматривается перспектива передачи ИИ управления большими производственными процессами, в ходе которых применяются критические технологии, а также верхнеуровневыми институтами - холдинговыми компаниями и даже целыми отраслями экономики. И при определенных условиях это чревато глобальными рисками, в частности, хакерских атак на критическую инфраструктуру,
— уточняет он.
В то же время, самая большая опасность, по мнению Медведева, связана с возможной утратой контроля над технологиями ИИ. Зампред Совбеза отмечает, что люди уже не в состоянии «в силу естественной ограниченности человеческого разума понять, как ИИ пришел к тому или иному выводу». В качестве примера он моделирует ситуацию, когда из-под контроля вышли нейросети, которые используются в управлении электростанциями, включая атомные. В случае сбоя существуют риски, что человек просто не разберется в его причине, считает он.
#Медведев #ИИ #риски
