Юрист и искусственный интеллект = дружба

13 Апреля 2021 09:30 13 Апр 2021 09:30 |

Отечественные юристы предложили ввести правовое регулирование использования систем искусственного интеллекта в России и начать с государственных органов. По мнению специалистов, из некоторых сфер деятельности искусственный интеллект лучше исключить – там, где его применение может иметь юридически значимые последствия, например, в судах.

Применение искусственного интеллекта (ИИ) должно быть законодательно отрегулировано в областях, где его использование может иметь юридически значимые последствия.

Причем начинать нужно с государственных органов и лишь затем рассматривать возможность формирования законодательства для коммерческих структур. Такой позиции придерживается комиссия по правовому обеспечению цифровой экономики московского отделения (МО) Ассоциации юристов России (АЮР).

Об этом со ссылкой на письмо комиссии в адрес Совета Федерации, Госдумы, Минцифры и Роскомнадзора с предложением отрегулировать рынок ИИ сообщили «Ведомости».

Комиссия в своем заключении отмечает, что в настоящий момент рынок ИИ в России никак не отрегулирован, из-за чего граждане уже сейчас сталкиваются с различными проблемами, в частности – с дискриминацией.

Риски дискриминации, по мнению авторов документа, возникают из-за заложенных, возможно, непреднамеренно, в алгоритмы ИИ предубеждений.

Также угрозу «объективности» ИИ может нести использование некачественных или неполных данных при обучении системы или принятии решений в конкретной ситуации.

По словам собеседника «Ведомостей», знакомого с работой ИИ в крупных компаниях, ИИ-системы, к примеру, могут отказывать в выдаче кредита заемщикам с хорошей репутацией. Виной тому – некорректно интерпретированные данные и «сырые» алгоритмы.

Юрист и искусственный интеллект = дружба

Ассоциация юристов России предложила отрегулировать применение искусственного интеллекта, начав с госструктур

Выявление же и обжалование ошибок ИИ на сегодняшний день могут вызывать сложности, так как доступа к ИИ-системам у сторонних экспертов нет, подчеркивают авторы документа из МО АЮР.

Начать следует с госорганов

В правом регулировании в первую очередь нуждается применение ИИ в госорганах, так как именно решения, принимаемые государством, оказывают существенное влияние на судьбу человека. Впоследствии, по итогам апробирования такого регулирования, стоит рассмотреть возможность проработки законодательства для коммерческих структур, считают в МО АЮР.

В качестве примера регулирования ИИ в областях, где его использование имеет юридически значимые последствия, авторы документа, обращаются к опыту Франции, где введен запрет на анализ и прогнозирование с помощью ИИ действий судей в ходе разбирательств.

По словам Бориса Едидина, зампредседателя комиссии по правовому обеспечению цифровой экономики МО АЮР, реализация предложений ассоциации не потребует серьезной переработки действующего законодательства.

Как отмечает специалист, за основу можно взять закон «О персональных данных», который, к примеру, дополнить требованиями проводить экспертизу ИИ-систем независимыми экспертами, размещать на веб-сайтах госорганизаций предупреждения об использовании ими ИИ, а для структур, занимающихся внедрением ИИ-систем, – предусматривать наличие запасного плана на случай сбоев и других непредвиденных ситуаций.

Власти знают об инициативе

По заявлению представителя МО АЮР, в Минцифры знают о предложении ассоциации и в настоящее время заняты его изучением.

Получение заключения комиссии «Ведомостям» подтвердил председатель комитета по информполитике, информтехнологиям и связи Госдумы Александр Хинштейн, который пообещал «интегрировать лучшие практики в работу» комитета.

Мнения экспертов

По мнению руководителя Content-Review Сергея Половникова, разработчики несомненно будут против определения ИИ в качестве объекта права, поскольку в таком случае обязательно возникнет вопрос о компенсации убытков, возникающих из-за ошибочных решений ИИ.

OSDU: что нужно знать об открытых стандартах работы с данными в нефтегазе

Новое в СХД Юрист и искусственный интеллект = дружба

Правовое регулирование технических процессов в области ИИ, вероятно, окажет негативное влияние на развитие данного рынка, отметила в разговоре с «Ведомостями» директор по стратегическим проектам Института исследований интернета Ирина Левова.

Не выиграют в такой ситуации и конечные пользователи систем на базе ИИ, защитить которых стремится МО АЮР, считает она.

По мнению специалиста, отрасль нуждается в саморегулировании, которое выражается в выработке перечня лучших практик и добровольном «принятии его на вооружение» участниками рынка.

Определенные риски перегибов, сопряженные с воплощением в жизнь инициатив МО АЮР, видит руководитель направления «Разрешение IT & IP споров» юридической фирмы «Рустам Курмаев и партнеры» Ярослав Шицле.Наиболее высокие из них связаны с административным согласованием и регламентацией использования персональных данных при их обработке ИИ, считает эксперт.

По его мнению, регламентация обоснована, когда речь заходит про такие инструменты как, например, дорожные видеокамеры, на основании записей с которых автоматически выписываются штрафы.

В случае же, когда дело касается, к примеру, банковских ИИ-систем, оценивающих заявки на выдачу займов, чрезмерная регламентация способна полностью лишить возможности применять подобные инструменты.

В компаниях, которые занимаются внедрением ИИ, в частности в Сбербанке и «Яндексе», на запросы «Ведомостей» не ответили или отказались от комментариев.

Как в России будет внедряться ИИ в рамках федпроекта «Искусственный интеллект»

Как сообщил CNews в конце января 2021 г.

, российские власти определилось с методиками внедрения ИИ-технологий в сферах здравоохранения, транспорта, сельского хозяйства, в топливно-энергетическом комплексе и обрабатывающих отраслях промышленности.

Они прописаны в рамках федерального проекта «Искусственный интеллект», расходы на который сократились втрое – до 36 млрд руб. – по сравнению с предусмотренными в первоначальной версии за авторством Сбербанка.

Для каждой из обозначенных сфер подготовят наборы данных и пользовательские решения, которые будут внедряться отраслевыми компаниями.

В частности, проект предусматривает разработку стандартов и правовых основ применения ИИ в здравоохранении, порядка регистрации медицинских изделий на основе технологий искусственного интеллекта, создание методического центра Минздрава для поддержки и координации разметки медицинских документов и подготовки медицинских наборов данных.

Федпроект «Искусственный интеллект» также предполагает внедрение ИИ в повседневную деятельность российских органов власти. Например, с помощью автоматического анализа спутниковых снимков МЧС сможет выявлять аномалии, а Минприроды – находить факты нарушений природоохранного законодательства.

Короткая ссылка

Виктор Момотов: Искусственный интеллект в суде не будет нейтрален к человеку

Юрист и искусственный интеллект = дружбаВиктор Мамотов. supcourt.ru

Совет судей опубликовал стенограмму выступления своего председателя Виктора Момотова на пленарном заседании конференции участников Глобальной сети обеспечения честности и неподкупности судебных органов (Global Judicial Integrity Network)*, которая проходит в столице Катара Дохе под эгидой Управления ООН по наркотикам и преступности. Тема доклада — «Перспективы использования искусственного интеллекта в судебной системе Российской Федерации». L.R решил без существенных купюр опубликовать данное выступление в части перспектив полной автоматизации процесса отправления правосудия.

Опасный миф

Развитие информационных систем, помогающих человеку принимать решения, началось с появления в 1950-х годах экспертных систем, описывающих алгоритм действий по выбору решения в зависимости от конкретных условий.

На смену экспертным системам пришло машинное обучение, благодаря которому информационные системы самостоятельно формируют правила и находят решение на основе анализа зависимостей, используя исходные наборы данных (без предварительного составления человеком перечня возможных решений), что позволяет говорить о появлении искусственного интеллекта.

Технологические решения, разработанные с использованием методов машинного обучения, являются примером искусственного интеллекта, способного решать только узкоспециализированные задачи (слабый искусственный интеллект).

Создание универсального (сильного) искусственного интеллекта, способного, подобно человеку, решать различные задачи, мыслить, взаимодействовать и адаптироваться к изменяющимся условиям, является сложной научно-технической проблемой, решение которой находится на пересечении различных сфер научного знания — естественно-научной, технической и социально-гуманитарной. Решение этой проблемы может привести не только к позитивным изменениям в ключевых сферах жизнедеятельности, но и к негативным последствиям, вызванным социальными и технологическими изменениями, которые сопутствуют развитию технологий искусственного интеллекта.

В последние годы в экспертной среде все чаще обсуждается вопрос о том, можно ли, используя искусственный интеллект, автоматизировать весь процесс отправления правосудия, в том числе заменить судью системой универсального (сильного) искусственного интеллекта, способного анализировать фактические обстоятельства дела, давать им правовую оценку и выносить соответствующее решение. В Китае, США, Великобритании, Франции и некоторых других странах подобные компьютерные программы уже начинают использоваться, однако в настоящий момент они служат вспомогательным инструментом для анализа документов и не заменяют собой судью.

  • В декабре 2018 года появился первый международный акт, специально посвященный использованию искусственного интеллекта в правосудии, – это Европейская этическая хартия о применении искусственного интеллекта в судебных системах, утвержденная Европейской комиссией по эффективности правосудия Совета Европы.
  • В хартии сформулировано пять принципов применения искусственного интеллекта:
  • — принцип соблюдения прав человека, в силу которого применение компьютерной программы не должно умалять состязательность процесса и право на справедливое судебное разбирательство;
  • — принцип запрета дискриминации;
  • — принцип качества и безопасности, который предполагает использование сертифицированного программного обеспечения, оценка которого проводится как техническими специалистами, так и юристами;
  • — принцип прозрачности, в силу которого все применяемые технологии должны быть доведены до всеобщего сведения в понятной форме.
  • Особый интерес представляет пятый принцип — «принцип пользовательского контроля», согласно которому судья должен иметь возможность не согласиться с решением, предложенным искусственным интеллектом, и принять собственное решение по делу, а участнику спора должна быть предоставлена возможность прямого обращения к суду без применения искусственного интеллекта и право оспорить принятое с помощью искусственного интеллекта решение.
Читайте также:  Три неочевидных условия договора строительного подряда

Принцип «пользовательского контроля» показывает, что авторы хартии понимают невозможность полной замены судьи искусственным интеллектом. И с этим следует согласиться.

То, что искусственный интеллект будет нейтрален по отношению к человеку, — это миф. Он был развеян еще в Новое время, когда стало понятно, что у техники есть своя автономия и независимость от человека.

Человек стал заложником созданной им техники, он не может освободиться от ее обратного воздействия на себя.

Очевидно, что в искусственном интеллекте, создаваемом человеком, заключены не только безграничные возможности, но и безграничные опасности.

Система искусственного интеллекта спонтанно совершенствуется, влияя на человека и подчиняя его себе; она может вырасти в опасный для человека мир, что отчасти и происходит сегодня, и становится неотвратимой угрозой.

У искусственного интеллекта свои законы и свой язык, отсутствие глубокого понимания которых у человека делает решения нейросетей непредсказуемыми.

Процессуальное законодательство требует от судьи при оценке доказательств руководствоваться своим внутренним убеждением, которое является гораздо более сложной категорией, чем программные алгоритмы. В зависимости от конкретных обстоятельств одни и те же доказательства могут быть в одном деле отвергнуты, а в другом деле, наоборот, приняты за основу.

Представляется, что система искусственного интеллекта никогда не сможет проникнуть в глубину человеческой психики, искусственный интеллект может оценивать обстоятельства дела только с точки зрения формальной логики, и именно поэтому он никогда до конца не сможет понять фабулу дела, так как во многих делах, например, семейных, и особенно уголовных, очень много иррационального, а не формально-логического.

Кроме того, суд при вынесении решения руководствуется целым рядом оценочных и ценностных критериев, закрепленных в законе: например, принципами справедливости и гуманизма при назначении наказания, требованиями разумности и добросовестности в гражданском праве. Понимание таких общих категорий формируется у человека в процессе социализации, воспитания, становления личности — все это невозможно воспроизвести в программном алгоритме.

В условиях динамично обновляющегося законодательства, вызванного, в том числе, научно-техническим прогрессом, нередки случаи, когда при отсутствии конкретного правового регулирования суды применяют аналогию закона и аналогию права, под которой понимается разрешение спора исходя из общих начал и смысла законодательства. Смысл законодательства, то есть его дух, может быть выявлен только человеком с высоким уровнем правовой культуры, а никак не компьютером.

С особенной ясностью невозможность замены судьи искусственным интеллектом проявляется в кассационном судопроизводстве.

Основанием для отмены судебного постановления в кассационном порядке выступает не любое формальное нарушение, а только существенное нарушение правовых норм, которое повлияло на исход дела и без устранения которого невозможны восстановление и защита нарушенных прав, свобод и законных интересов. Эти критерии вытекают из принципа правовой определенности, в силу которого отмена судебного решения по формальным основаниям недопустима.

Дать оценку тому, соответствует ли допущенное нарушение критерию существенности и способно ли оно повлиять на исход дела, может только профессиональный судья. В свою очередь, компьютерный алгоритм будет фиксировать любое нарушение и приходить к выводу об отмене судебного акта даже в том случае, если формальная отмена приведет к такому же исходу дела.

Поэтому говорить о замене судьи искусственным интеллектом как минимум преждевременно, а скорее всего, невозможно.

Вместе с тем не исключается применение искусственного интеллекта при рассмотрении уже упоминавшихся бесспорных требований, прежде всего в приказном производстве, поскольку такая работа не связана с анализом правоотношений сторон и в большей степени носит технический характер. В некоторых регионах такие системы уже внедряются.

  1. Российский суперсервис
  2. На текущий момент в Российской Федерации имеются правовые, технические и технологические предпосылки активного применения искусственного интеллекта, способного решать узкоспециализированные задачи (слабый искусственный интеллект).
  3. В целях развития цифровизации судебной системы Российской Федерации, в том числе на основе технологий слабого искусственного интеллекта, разрабатывается суперсервис «Правосудие онлайн», представляющий собой основу цифрового правосудия.
  4. Составляющими «правосудия онлайн» являются дистанционное обращение в суд в электронном виде, дистанционное получение информации о начавшемся судебном процессе (судебные извещения), дистанционный доступ к материалам электронных дел, получение судебных актов или их копий в электронном виде, дистанционное участие в судебных заседаниях и др.
  5. Суть «правосудия онлайн» заключается в предоставлении возможности гражданину не приходя в суд (дистанционно) подавать в электронном виде исковые заявления или жалобы, получать информацию о назначении судебного заседания, участвовать в судебном заседании с использованием технологии веб-конференции из офисных или жилых помещений, а также получать электронные копии судебных документов, подписанные электронной подписью суда.

При этом гражданину не придется покупать дорогостоящее оборудование или программное обеспечение. Достаточно иметь персональный компьютер или смартфон и доступ к интернету.

  • Возможность участия в судебном заседании с использованием технологии веб-конференции из офисных или жилых помещений будет обеспечена внедрением в судебную деятельность технологии биометрической аутентификации участника судебного процесса по лицу и голосу.
  • Суперсервис «Правосудие онлайн» предполагает также автоматизированное составление проектов судебных актов с использованием технологий искусственного интеллекта на основе анализа текста процессуального обращения и материалов судебного дела.
  • Представляется, что в судебной системе внедрение искусственного интеллекта может обеспечить:
  • а) повышение качества и эффективности судебной деятельности за счет:
  • — использования систем поддержки принятия решений судом, например, системы назначения наказания в уголовном судопроизводстве;
  • — использования систем обработки естественного языка — распознавание общего смысла текста с возможностью выделять ключевые тезисы из текста;
  • — использования систем распознавания речи и видеоизображения в целях разметки аудио- и видеопротоколов судебных заседаний;
  • — автоматизированной подготовки проектов судебных актов;
  • б) повышение эффективности судебной защиты прав и законных интересов граждан, организаций, органов государственной власти (за счет использования интеллектуальных помощников участников судебных процессов, расширения дистанционного участия в судебных заседаниях за счет использования технологий биометрической идентификации граждан);
  • в) снижение конфликтности, повышение правосознания за счет внедрения экспертных систем прогнозирования результата рассмотрения судебного дела;
  • г) создание систем прогнозирования изменения судебной нагрузки в зависимости от изменения законодательства.
  • Если на первых порах информационные технологии использовались в судах фрагментарно, главным образом для уменьшения объема рутинных операций и учета судебных дел, то в настоящий момент происходят коренные изменения, информационные технологии используются непосредственно для осуществления процессуальных действий судом и участниками процесса, а информационные системы становятся средой осуществления процессуальных действий.

*Глобальная сеть обеспечения честности и неподкупности судебных органов (Global Judicial Integrity Network) была создана в апреле 2018 года под эгидой Управления ООН по наркотикам и преступности.

Сеть объединяет судей высших судебных инстанций из более чем 100 стран и представляет собой платформу, позволяющую обмениваться передовой практикой с целью предотвращения коррупции в судебной системе.

Искусственный интеллект на страже закона: Новейшие технологии в сфере права. ФАН-ТВ

Автоматизация юридического процесса или внедрение искусственного интеллекта. На международной конференции Legal Al в «Сколково» лучшие российские и иностранные практики рассказали, как сегодня в сфере права можно применить новейшие технологии.

«Если нейронные сети научатся просто отличать, где черное, а где белое — это уже будет большим успехом», — считает начальник юридического департамента «Гарант» Светлана Ревак.

Читайте также:  Возврат товара в Ситилинк: можно ли в срок 14 дней вернуть вещь с браком или надлежащего качества, если она не подошла или не понравилась, как сдать по гарантии?

Нейронные сети и роботы теперь держат юристов в тонусе. В перспективе — полная автоматизация и компьютеризация многих юридических процессов. Специалисты решают, как применять искусственный интеллект в юриспруденции, чтобы повысить эффективность поиска, обобщения информации в базах законодательства, судебной практики и других данных в рамках любого юридического проекта.

«Во-первых, я хотел бы сказать о важности данных в юридической сфере. Потому что информация обладает даже большей ценностью, чем золото. И для юридических фирм очень важно найти и подключиться к источнику сведений. Потому что информация помогает выигрывать дела.

И необходимо понимать уровень зрелости и совершенства технологий.

В этом случае мы говорим об искусственном интеллекте и о том, каким образом они [технологии] могут интегрироваться в предоставление юридических услуг», — рассказывает основатель «LegalComet» (Сингапур) Майкл Лью.

Глядя на перечень возможностей машины, может сложиться впечатление, что она в итоге заменит человека, однако цель у искусственного интеллекта совершенна другая.
 

«Я не думаю, что это заменит полностью юриста, потому что в нашей работе есть такие факторы, как эмоциональное восприятие, какие-то навыки в интерпретации речи, эмоций, интерпретации определенных слов и выражений, которые пока что недоступны машинам. И я думаю, что, в принципе, никогда и не будут [доступны] , именно из-за этой тонкости. Но ускорить работу, я думаю, эти алгоритмы помогут», — делится мнением старший консультант «KorumLegal» (Гонконг) Анна Ким.

«Я называю это демократизацией информации. Действительно, есть такая цель — приземлить эти сокровенные знания, сделать их ближе к людям. Потому что для юристов это — не выявленный спрос. Люди не понимают, зачем им обращаться к юристам и адвокатам, если у них что-то не произошло.

Они связывают эти услуги с каким-то прецедентом, с каким-то негативом, просто потому что это достаточно консервативная отрасль, достаточно закрыта и непонятна большинству людей»,  — уверен директор центра юридических технологий инновационного центра «Сколково” Антон Пронин.

Юрист и искусственный интеллект = дружбаФедеральное агентство новостей / Перегудов Роман

Сделать сферу права доступной и понятной каждому — вот о чем всерьез задумались в «Сколково». Привлечь и перенять зарубежный опыт, помочь российским стартапам в сфере развития искусственного интеллекта — ближайшее будущее молодых ученых России.

Ии трансформирует офисы. исчезнут ли бухгалтеры, hr, юристы, маркетологи?

Искусственный интеллект заменит бухгалтеров с 98-процентной вероятностью. Такие данные на своём сайте приводит HubSpot. ИИ хорошо справляется с задачами в бухгалтерии и аудите, ведь здесь ему приходится работать со стандартизированными данными. Однако не все эксперты согласны с HubSpot, и сейчас мы разберёмся почему.

Какие задачи решает ИИ в бухгалтерии и аудите уже сейчас?

  • Анализ юридической и финансовой документации. Это сопоставление информации из разных источников, сверка смет и счетов с банковскими выписками. Здесь ИИ нужно работать с неструктурированными данными, и он уже умеет это делать.
  • Автоматизация ввода данных.
  • Автоматическое составление документов — например, квитанций и счетов-фактур.
  • Исследование журналов транзакций на предмет подозрительных операций.
  • Контроль трат сотрудников и подразделений компании в реальном времени.
  • Автоматическая инициация платежей и заказов.
  • Изучение ценообразования.

Эти системы используют те же технологии ИИ, что и юриспруденция: машинное обучение, компьютерную лингвистику и RPA.

«Большая четвёрка» американских аудиторских компаний — Deloitte, PricewaterhouseCoopers, Ernst & Young и KPMG — активно внедряет ИИ в свою работу с середины 2010-х. Их нагоняют десятки и сотни небольших компаний. Такие сервисы — например, системы для малого бизнеса «Моё дело» или «Кнопка» — развиваются и в России.

Юрист и искусственный интеллект = дружбаИИ выполняет мелкие бухгалтерские задачи в 10 раз быстрее человека, утверждает сайт сервиса «Кнопка». Скриншот: официальный сайт сервиса «Кнопка»

Пока мы поговорили только о том, как ИИ применяется в бухгалтерии уже сейчас.

Теоретики бухгалтерского дела и бизнес-управления Гейб Дики, Сандра Бланке и Ллойд Ситон предсказывают, что в будущем ИИ сможет строить сложные прогностические модели.

Они помогут находить неожиданные корреляции в бизнес-показателях. Более того — искусственный интеллект, способный распознавать голоса и лица людей, будет участвовать в корпоративных расследованиях.

С экспертами соглашается Шивани Говил, вице-президент компании CCC Intelligent Solutions, создающей бизнес-решения на основании ИИ. По её мнению, когда ИИ интегрирует более широкие потоки бизнес-информации в систему бухучёта, бухгалтеры смогут составлять более глубокие прогнозы. Они выйдут за пределы чисто финансового планирования и охватят другие области бизнеса.

«Например: мы увидим рост затрат у поставщика и сможем предсказать влияние этого на собственный бизнес. Бухгалтер, использующий ИИ, сможет посоветовать лучшие действия для устранения потенциального дефицита», — пишет Говил.

В том, что ИИ никогда не сможет полностью заменить квалифицированных бухгалтеров, уверен Уилл Лопес, глава бухгалтерского отдела цифровой аудиторской платформы Gusto.

«Там, где программное обеспечение ограничивается оценкой конкретных входных данных, бухгалтеры используют и свою финансовую проницательность.

Это и понимание бизнес-целей клиентов, и наблюдение за тонкостями коммуникации — например, интонациями голоса клиента», — пишет он.

«В будущем ИИ будет строить сложные прогнозы для бухгалтеров и даже участвовать в корпоративных расследованиях».

Гейб Дики, Сандра Бланке и Ллойд Ситон для CPA Journal

Российские эксперты также дают противоречивые прогнозы. Например, замминистра финансов РФ Татьяна Нестеренко и бывший министр финансов Алексей Кудрин утверждают, что ИИ заменит не только бухгалтеров, но и экономистов, и специалистов налоговой службы. Сами бухгалтеры этот прогноз отвергают: ИИ не умеет решать стратегические и коммуникационные задачи.

Возможно, с бухгалтерией произойдёт то же, что и с юриспруденцией, но в большем масштабе. Техническая работа будет автоматизирована, но важные решения останутся за человеком. Бухгалтер по-прежнему будет частью любой компании, но пять «вбивающих первичку» сотрудников заменит один стратег.

Восстания машин пока не предвидится

Нынешние системы искусственного интеллекта (ИИ) пока далеки от так называемого сильного ИИ, который мог бы обладать правосубъектностью,— однако из-за особенностей использования этой технологии установление ответственности за его действия будет становиться все более трудным делом. Об этом вчера говорили участники конференции AI Journey, организованной Сбербанком. По их словам, риски при активном развитии ИИ существуют, но пока они в первую очередь связаны с тем, как эта технология применяется человеком в отношении других людей.

Пока опасения по поводу появления систем искусственного интеллекта, которые обладали бы собственной волей и были способны выходить из-под контроля человека, завышены — нынешний уровень развития технологий предполагает, что цель системе задает разработчик, а качество ее выводов зависит от входных данных. К таким выводам пришли участники дискуссии по правосубъектности ИИ, прошедшей вчера в рамках форума AI Journey.

Впрочем, как отметил директор по науке и технологиям Агентства искусственного интеллекта Роман Душкин, сейчас представление о том, кто должен нести ответственность в этой сфере и как надо регулировать применение технологии, исходит из представления об «узком ИИ» — но технологически не существует препятствий для появления систем, которые будут полностью осознавать себя в качестве личности и обладать внутренней мотивацией и эмоциональной структурой.

«ИИ эффективен в рамках достижения определенной задачи, вряд ли у таких систем появится целевая функция стать отдельным существом.

Собака — это тоже пример сильного интеллекта, сейчас на порядок более сильного, чем текущие системы ИИ»,— возразил на это директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов.

По его мнению, возможные последствия развития ИИ зависят от постановки задачи при его разработке, именно от этого зависит, насколько он будет полезен или вреден,— так что все права находятся у человека — автора ИИ.

Напомним, Кодексом этики искусственного интеллекта, который был подписан в конце октября рядом крупных российских компаний (см.

“Ъ” от 27 октября), вся ответственность за ошибки ИИ возложена на разработчиков и тех, кто внедряет технологию — то есть ИИ не обладает самостоятельной правосубъектностью.

В готовящихся рекомендациях ЮНЕСКО также нет речи о наделении ИИ правосубъектностью, отметил исполнительный директор по вопросам нормативного регулирования технологий ИИ Сбербанка Андрей Незнамов.

В то же время юридическое определение ответственности при использовании ИИ уже затруднено, так как человеку нельзя вменить злой умысел, как в случае с обычными преступлениями, отметил руководитель российской практики в области интеллектуальной собственности, IT и телекоммуникаций юридической фирмы Dentons Виктор Наумов.

Основные риски он связывает с тем, что растущее количество компаний попытается извлекать прибыль от использования ИИ, не обращая внимания на этические аспекты.

Поэтому потребуется введение ограничений: обязательной идентификации систем, унифицированного принципа квалификации разработчика и пользователя ИИ (это станет аналогом «прав»), а также гарантий соблюдения права человека на отказ от использования ИИ (что даст возможность полноценного выбора), полагает юрист.

Распределение ответственности усложняется устройством ИИ.

Разработчик может отвечать только за архитектуру и топологию системы, разметчик данных (он определяет, какие данные будут использованы) играет роль «воспитателя» — но то, чему эта система научится на полученных данных, будет знать только она, указал Роман Душкин.

Директор департамента планирования и развития «Сколково» Сергей Израйлит предположил, что в будущем ИИ «будет и чем отвечать» — система сможет иметь за собой активы и репутацию (по аналогии с юрлицом), что будет защищать потребителей от рисков.

Татьяна Едовина

Читайте также:  Как вернуть утюг в магазин: можно ли сделать это, если он не понравился, а также основные вопросы и ответы по возврату и обмену товара

Угрожает ли искусственный интеллект профессии юриста

УГРОЖАЕТ ЛИ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ

ПРОФЕССИИ
ЮРИСТА

Время идет, и совместно с ним очень быстро развиваются
цифровые технологии. 21 век – это век цифровизации. С любым новым днем
информационные технологии все прочнее попадают в нашу повседневную жизнь, преображаясь
в весомый катализатор становления экономики и иных значимых сфер жизни людей.

Сейчас
цифровые технологии крепко зашли в наш быт. Часто люди даже не отдают отчета в
том, на сколько их жизнь находится в зависимости от девайсов, компьютеров и
иных технологий. Свежие технологии обрамляют нас со всех сторон. От них зависит
уровень жизни, они еще определяют качество быта и досуга.

В
наше время уже довольно непросто предположить себе школу, в которой не было бы
компьютеров. Есть множество электронных библиотек, которые дают возможность
прочесть ту или иную книгу, не выходя из дома, что содействует улучшению
значения самообразования.

Правительство, ВУЗы власти, бизнес в реальное время
настоятельно просят серьезных технических перемен, внедрения информационных
технологий во все сферы социальной жизни. Органы государственной власти все
чаще стали применять раньше неведомые для русского языка слова: блокчейн,
криптовалюта, цифровая экономика.

Стали подниматься вопросы о кибербезопасности
и создании искусственного интеллекта.

Внедрение цифровых технологий в
экономику, перевоплощение информации в ведущее средство обмена, расширение
мнения «интеллектуальный капитал», становление авторского и патентного права
настоятельно просит нового подхода к защите прав разработчиков и инвесторов,
предпринимателей и покупателей.

 «Будущее уже наступило»,
— отметил Д.А. Медведев на пленарном заседании Петербургского
Интернационального юридического форума 16 мая 2018 г.

, — «поэтому специалистам в области юриспруденции надо быть готовым к таким
реалиям, как оборона интересов в критериях цифровой экономики, беспилотного
автотранспорта, технологий блокчейн и криптовалют».  Статистика
демонстрирует, что внедрение свежих технологий в юриспруденции сегодня
составляет уже больше 30%.

Оценки адвокатов, правоведов и специалистов довольно
быстро разнятся по поводу того, будет ли работа адвокатов проще с
проникновением технологий в эту сферу или же все только усложнится.

Сегодня современные юристы просыпаются в холодном
поту, вспоминая страшный сон, в котором они приезжают на работу и слышат: «Вы
уволены, вас успешно заменил искусственный интеллект». Сейчас модно говорить о применении искусственного интеллекта
в праве. Под искусственным интеллектом обычно понимаются нейронные сети и
машинное обучение.

А, действительно, насколько реальна эта ситуация? На
самом ли деле искусственный интеллект угрожает профессии юриста? Почему первосортный чат-бот может
составить серьезную конкуренцию человеку? Также возникает вопрос о том, какие
сложности будут возникать в юриспруденции из-за развития технологий? Что делать
молодым специалистам в условиях подобной конкуренции?

Глава «Сбербанка» Герман Греф, отметил, что те
юристы, которые не понимают в нейронных сетях, должны либо осваивать
современные технологии, либо оставлять навсегда эту профессию.

Сегодня тема ИИ стала
одной из самых популярных и обсуждаемых. Желание захватить рынок в сфере
искусственного интеллекта, обеспечив себе монополию в бизнесе и политике,
заставила финансовые и IT-компании, университеты и научные сообщества
соревноваться в данной области.

Однако многие специалисты считают, что сегодня под
ИИ понимают лишь ступеньку к нему – второе и третье поколение нейросетей,
способных обучаться методами deep learning и принимать те или иные решения. IT -компании
продолжают работу в этом направлении, обещая, что обновленный сервис «Цифровой
юрист» освободит 70% рабочего времени сотрудников от рутинных задач. 

Но эпоха legal tech, по мнению кандидата
юридических наук, автора курса практической юриспруденции «Алгоритмы права»
Владислава Добровольского, на российском рынке еще не наступила. «Консультант плюс» или «Гарант», решения по учету,
обработке и хранению данных – вот то, что сейчас называют юридическими
технологиями.

А основная характеристика настоящего
legal tech – это сбалансированный синтез технологии и работы юристов, которые
действуют по алгоритмам. Например, чат-бот помогает юристу опросить клиента.
Человек в этой ситуации будет отвечать за творческую составляющую —
формирование предложения и инструкции.

Следует отметить, что смысл текста и
качество его изложения являются слабым местом для современных программ. Они
пока не способны воспринимать правовые акты, как алгоритмы. «Тот, кто пытается
обучить машину это делать, как правило, не имеет ясного представления о цели и
принципах права.

А без этого, правовой алгоритм работать не будет», — уточняет
Владислав Добровольский. 

Безусловно, с приходом
цифровых помощников, чат-ботов, ассистентов — таких, как Alexa, Siri и Алиса —
наша деловая и повседневная жизнь кардинально изменилась: во-первых, многие
задачи планирования («поставь встречу в календарь») и поиска информации («найди
год выпуска фильма») стали решаться без участия человека; во-вторых, наверное,
самый большой эффект на себе ощутила сфера поддержки клиентов, где личное
общение со специалистом все чаще становится доступным только для премиального
сектора.

В связи с такой бешеной
популярностью цифровых помощников, возникает большой соблазн создать
робота-юриста. А для этого всего лишь нужно записать ответы юриста на самые
частые вопросы, описать все возможные жизненные ситуации и т. п.

Затем
«загрузить» в нейронную сеть всю имеющуюся судебную практику, судебные решения.
И, как результат, получить качественного робота, который сможет
соотнести запрос пользователя с ответом юриста (судебным прецедентом,
решением).

Заменят ли роботы юристов? Однозначный ответ на
этот вопрос дать не возможно. С одной стороны, хорошо обученный робот сможет
гораздо быстрее и эффективнее собрать нужную информацию, проанализировать ее,
подготовить стандартизованные документы и
сделать выводы с помощью специальных программ.

  Но с другой стороны, юристов
высшей квалификации в сфере банкротства и
корпоративных конфликтов компьютеры никогда не заменят, ибо там каждое дело
очень отличается от другого, а так же в самом процессе без преувеличения
присутствует творческая составляющая.

Незаменимыми останутся только те, кто
вносит данные в программу и те, кто нестандартно мыслит, так как с этим, роботы
справиться уже не смогут.

В эпоху цифровых технологий все больше начинают
цениться умение предложить свое автономное экспертное соображение,
стремительность принимаемых правильных заключений, разбирать гигантскую массу данных,
и выстраивать их в закономерные структуры.

По мнению профессионалов,
современному юристу недостаточно владеть дипломом об окончании юридического
вуза и обладать базовыми знаниями в сфере юриспруденции.

Молодому специалисту
надо уметь оказывать услуги с помощью цифровых технологий, например электронной
подписи, электронного документооборота, криптоканалов для обмена информацией,
токенов и электронных валют, смарт-контрактов и т. д. Также юный специалист
должен иметь высокие знания во многих областях юриспруденции.

Это поможет
быстро анализировать информацию и принимать правильные решения. Юристы вообще
обязаны уметь пользоваться различными технологиями, вне зависимости от того,
где они будут работать, так как это незаменимый инструмент для них.

Сегодня работа юристов уже
предельно упрощена, ведь разные программы помогают составлять документы, в
органы государственной власти можно обратиться с помощью информационных систем,
а на судебных заседаниях можно присутствовать с помощью конференц-связи.

Но, даже
несмотря на то, что информационные технологии все прочнее проникают в
юриспруденцию и в другие отрасли современной жизни, эксперты считают, что
машины никогда полностью не заменят профессионалов в своем деле, однако, они
могут упростить работу специалиста.

Уже доказано учеными, что в ближайшие 10
лет машины на 67% сократят работу юристов.

По моему мнению, новые Интернет-технологии,
взаимодействие с искусственным интеллектом, разработанным на основе нейронных
сетей — это будущее, к которому мы стремительно идем.

Литература

1.  Зикеев
В. Цифровизация юридической профессии, или 
юриспруденция эпохи миллениалов. URL: https://zakon.ru/blog/2018/8/2/cifrovizaciya_yuridicheskoj_professii_ili_yurisprudenciya_epohi_millenialov
(дата обращения: 08.11.2020)

Оставьте комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *