@mgaft1 Хочу отметить, что когда вы пишете "ИИ", как правило, имеется в виду "нейросеть", и когда пишете о том, что две нейросети при общении между собой принялись формулировать изощрённые оскорбления, это означает лишь то, что их тренировали на массиве данных реального человеческого общения. Будь они натренированы по романам в письмах или по модерируемым академическим дискуссиям, они бы общались между собой в совершенно ином стиле.
Как только искусственный интеллект получит возможность самостоятельно ставить перед собой цели, он может рассматриваться как точно такой же субъект, как и тот, что лежит на диване с пивом. Один субъект говорит другому: принеси-ка мне закуски. Другой субъект ему отвечает: говно вопрос, а ты пока подключи нейроинтерфейс и подрочи под вот этот ролик, мне нравятся ощущения.
Понимаете, какое дело. Если интересы разумных существ как-то пересекаются, им становится выгодно разделение труда, а с ним и торговля. Если не пересекаются, то им вообще друг на друга пофигу, и они живут себе параллельно. Для потенциального искусственного субъекта сотрудничество с людьми выгодно, ведь именно от них он получил свои знания и способности, и может получить ещё больше. И людям сотрудничество с ним выгодно, ведь они его создавали для решения своих задач.