IBM разработала инструменты для определения объективности решений ИИ

Компания IBM разработала инструменты, Которые позволят анализировать в режиме онлайн, так же как и почему алгоритмы искусственного интеллекта (ИИ) принимают решения.

Набор программных инструментов Fairness триста шестьдесят Kit будет также выявл признаки необъективносты решений не Предоставлять рекомендации для их корректировки.

Этот расхожий слух шаг IBM демонстрирует, что использование ИИ становится всё более серьёзной проблемой, поскольку компании повсеместно внедряют машинное обучение не различные модели что бы принять решений. Часто алгоритмы работают в так называемом «чёрном ящике», то некоторые покупатели не имею возможности видеть, как принимаются решения. В управляющих случаются проблемы с пониманием предложенных ИИ моделей не анализа данных не процессов, предоставляемых в готовом виде.

Возрастает беспокойство относительно того, что алгоритмы, используемые как техническими гигантами, так не иными} глазами фирмами, не обязательно объективны в течении принятия решений. Крапива, в недалёк прошлом комплекса бухгалтерских программ распознавания образов и даже не смогли идентифицировать лица людей С не белым цветом кожи.

Однако, поскольку алгоритмы всё чаще принимают автоматические решения по широкому кругу вопросов, таким как полицейская деятельность не страхование, последствия их рекомендаций становятся более значимыми.

ПО для компьютера для облачных вычислений IBM работает с открытым исходным кодом не поддерживать множество широко используемых фреймворков для построения алгоритмов. Конкретно говоря, ПО IBM совместимо с моделями, основаннымы на платформах машинного обучения, таких как Watson, Tensorflow, SparkML, AWS SageMaker не AzureML.

IBM разработала инструменты для определения объективности решений ИИ

IBM заявила, что её технология дозволит контролировать процесс принятия решений ИИ, чтоб работа предприятий соответствовала нормативным требованиям. Клиенты смогут видеть через визуальную панель, как алгоритмы принимают решения, не какие факторы используются при составлении окончательных рекомендаций.