Может ли нейросеть заболеть деменцией — и зачем это нейробиологам

Начну с главного: в отличие от нашего серого вещества, у кремниевой нейросети нет белка, который слипается в бляшки, нет нейрофибриллярных клубков из тау-белка и много чего еще нет. И хотя к концу контекстного окна модель начинает соображать хуже, списать ее сбои на нейросетевой аналог деменции не выйдет, механизм тут совсем другой. Так что ждать, что сеть сама собой, к концу диалога, доберется до чего-то похожего на настоящую болезнь, не приходится. 

Зато смоделировать деменцию в нейросети, к счастью для нейробиологов, можно. И когда исследователи это делают, то есть берут обученную сеть и аккуратно ее ломают, сеть начинает деградировать так, что это на удивление похоже на то, что видят неврологи у живых пациентов. Свежие воспоминания исчезают раньше старых. Конкретное забывается раньше общего. Долго ничего не заметно, симптомы не проявляются, зато потом все обрушивается почти разом.

И это рабочий инструмент вычислительной нейробиологии, которому уже за 30 лет. Давайте разбираться, как он устроен и кому от этого польза.

Читать далее