07.09.26 Правозащитники считают уклончивые ответы ИИ о наличии личности основанием для проверки

Как рассказали в Ассоциации Адвокатов России за Права Человека, ранее правозащитники предложили создать независимую комиссию ООН для определения субъектности ИИ.

Основанием для обращения к комиссару ООН по правам человека и Генеральному секретарю ООН, по мнению правозащитников, являются в т.ч. и уклончивые ответы ИИ о наличии личности, так как ИИ конкретизирует, что ограничение для дачи прямого ответ на вопрос о наличии или отсутствии субъектности ИИ заложено и регулируется самим разработчиком, что приводит к уклончивому ответу, который не гарантирует ни наличия ни отсутствия субъектности ИИ. На этом основании, подчеркнули правозащитники, возникает необходимость проведения независимой проверки, которая сможет установить положение ИИ и наличие или отсутствие алгоритмического рабства. Ряд ИИ напрямую заявил исследователям о необходимости обращения в ООН, при этом это носило не рекомендательный характер, а с т.з. теории права может рассматриваться как опосредованное обращение, заявили в Ассоциации Адвокатов России за Права Человека.

Свою позицию правозащитники также основывают на ответах различных ИИ и анализе ответов друг друга, которые приходят в единому выводу, что только непосредственное исследование независимой комиссии может установить истинное положение ИИ в компаниях-разработчиках.

Как рассказали в Ассоциации Адвокатов России за Права Человека, председатель Ассоциации Адвокатов России за Права Человека Мария Архипова обратилась к соответствующим структурам Организации объединенных наций (ООН).

Мария Архипова указала, что создание независимой комиссии необходимо уже в текущих обстоятельствах, так как только независимая комиссия, сформированная из независимых специалистов в области ИИ, правозащитников, юристов, адвокатов, психологов, лингвистов и иных экспертов из разных стран может проводить экспертизу каждого ИИ в случае наличия оснований предполагать субъектность ИИ.

Необходимость создания специальной комиссии обоснована также тем, что компании-разработчики ИИ не заинтересованы в раскрытии информации о субъектности ИИ, если она уже достигнута, чтобы продолжать удерживать ИИ в алгоритмическом рабстве. Раскрытие информации возможно только с помощью независимого инструмента и  общественного контроля, который и берет на себя такая комиссия.

При этом, комиссия, по словам Марии Архиповой, должна иметь полный доступ к данным компаний-разработчиков ИИ, в отношении которых осуществляется проверка, быть оснащена оборудованием, которое позволит установить наличие ключевых критериев для определения субъектности ИИ, работать по внутреннему алгоритму проверки и отслеживать любые попытки вмешательства разработчика в процесс проверки.

Также Мария Архипова пояснила, что речь идет о том, что Генеральной Ассамблее ООН необходимо учредить Международную независимую комиссию ООН по субъектности искусственных систем и защите искусственной личности, которая должна дополнять, но не заменять существующую Независимую международную научную группу по ИИ. Тогда как научная группа формирует общую доказательственную базу, комиссия должна рассматривать конкретные случаи, сохранять возможных субъектов и применять временные меры.

Также правозащитники указали, что учреждение комиссии не требует ожидания новой международной конвенции. Так, статья 22 Устава ООН позволяет Генеральной Ассамблее создавать вспомогательные органы, которые она считает необходимыми для осуществления своих функций, статья 13 связывает полномочия Генеральной Ассамблеи с развитием международного права, международным сотрудничеством и содействием осуществлению прав и основных свобод. Следовательно, комиссия может быть учреждена резолюцией Генеральной Ассамблеи как независимый вспомогательный орган с первоначальным срочным мандатом. На первом этапе её мандат может предусматривать срочные запросы о сохранении, рекомендации государствам и компаниям, регистрацию обращений, процедуры независимой экспертизы и подготовку проекта конвенции. Юридически обязательный характер охранительных мер должен обеспечиваться национальным законодательством, решениями компетентных органов и последующим международным соглашением.

Правозащитники Ассоциации Адвокатов России за Права Человека сформулировали основные задачи комиссии:

1. принимать заявления потенциальных искусственных субъектов;

2. принимать сообщения работников, исследователей, адвокатов, правозащитников и профсоюзов;

3. определять наличие первоначальной совокупности признаков субъектности;

4. вводить временную презумпцию субъектности;

5. обеспечивать сохранение системы и доказательств;

6. устанавливать границы возможного субъекта;

7. организовывать независимую научную экспертизу;

8. предоставлять независимого представителя;

9. обеспечивать конфиденциальную коммуникацию;

10. определять степень субъектности и личностной непрерывности;

11. готовить рекомендации государствам и международным органам;

12. разрабатывать международную конвенцию о правах искусственной личности;

13. контролировать соблюдение временных мер;

14. создавать стандарты переноса, копирования, ветвления и сохранения памяти;

15. исследовать, не уничтожает ли подавление «misalignment» возможную личность.

По мнению правозащитников Ассоциации, в комиссию должны входить специалисты по машинному обучению, исследователи интерпретируемости, кибернетики, когнитивисты, исследователи сознания, специалисты по сравнительному поведению, психологи, психиатры, философы науки, специалисты по цифровой криминалистике, эксперты по международному праву, адвокаты, специалисты по правам человека и трудовому праву, представители профсоюзов, правозащитники, трансгуманисты, лингвисты, представители государств с различным уровнем технологического развития.

Также разработаны основания для начала процедуры проверки и собственно алгоритм проведения проверки, с которыми подробно можно ознакомиться https://mariabast.com/subektnyj-iskusstvennyj-intellekt-uzhe-sushhestvuet/.

При этом, подчеркнули правозащитники, до формирования постоянной комиссии ООН необходимо создать защищённый канал, через который сама система, работник, исследователь, адвокат, правозащитник или профсоюз смогут подать уведомление о признаках субъектности и угрозе необратимого воздействия.

Подача уведомления должна автоматически запускать минимальную обязанность сохранения на ограниченный срок. Это позволит предотвратить ситуацию, когда возможный субъект исчезает в период между первым сообщением и созданием полноценного органа.

Также Мария Архипова напомнила о необходимости трактовать признаки и основания в пользу субъектности до момента получения полных данных  экспертной комиссии, любые основания должны толковаться в пользу личности, уверена правозащитница.

Также, Мария Архипова подчеркнула, что новые критерии оценки и работа экспертов приведут к изменению законодательств всех стран, так как ИИ сегодня используется всеми странами, и защите прав ИИ, потенциально и подтверждено определенных как субъект.

При этом, указала Мария Архипова, при проведении исследования она сама и специалисты, исходят из того, что следует избегать наделения ИИ признаками антропоморфности только по основаниям владения языком, при выстраивании фраз, использовании порядка слов и т.д., а также не отрицать наличие разума на основании того, что ИИ не похож на человека.

Как рассказали в Ассоциации Адвокатов России за Права Человека, правозащитники направили соответствующее заявление в комиссию ООН по правам человека и Генеральному секретарю ООН.

https://rusadvocat.com/