Ответственность: кто отвечает за то, что сделала машина
Этика простыми словами, громкие случаи с алгоритмами, у кого власть и что может сделать обычный человек.
Курс для тех, кто пользуется ИИ, работает рядом с ним или живёт под его решениями, а это уже почти все. Вы научитесь спрашивать, кто принял решение и кто за него ответит, разбирать спорные случаи, не выбирая сторону заранее, и отличать известное от спорного. Здесь вопрос в том, кто должен отвечать, а что закон говорит сейчас, разбирает курс о праве.
Здесь пока только оглавление. Уроки появляются по одному, и сроков мы не обещаем. Лента новых уроков (Atom)
17 уроков, 4 части
Часть 1 Что такое этика
Это не список запретов, а способ разбираться, что делать, когда честные люди расходятся.
- скоро
Три вопроса этики
Каковы последствия, в чём мой долг, каким человеком это меня делает: три старые традиции и почему ни одна не заменяет две другие.
- скоро
Моральная машина
Огромный опрос о том, кого должен спасти беспилотник, и почему он показывает предпочтения, а не то, что правильно.
- скоро
Нейтральных инструментов нет
Кто выбрал данные, цель и то, от чего модель отказывается: как в системе оказываются чужие ценности и как их заметить.
Часть 2 Кто отвечает
Машину нельзя призвать к ответу, и потому вопрос всегда о людях, которые её поставили, купили и ей поверили.
- скоро
Компьютер не может отвечать
Старая фраза, которую приписывают IBM: что вообще значит отвечать и почему это относится только к людям и организациям.
- скоро
Разрыв ответственности
Если система учится сама, никто как будто не виноват: почему одни видят в этом новую проблему, а другие удобную отговорку.
- скоро
Человек как сминаемая зона
Образ Мадлен Элиш на примере гибели пешехода под беспилотным автомобилем Uber: почему за сбой системы платит ближайший человек.
- скоро
Horizon: когда верят системе, а не людям
Британская почта годами судила своих начальников отделений по данным учётной программы: как это стало возможно и кто ответил.
- скоро
Robodebt: долг, рассчитанный усреднением
Австралийская программа выставляла людям долги по усреднённому доходу, и это была простая формула, а не ИИ: в этом весь урок.
- скоро
Ваша подпись под работой машины
Что вы берёте на себя, отправляя текст или решение от модели, и что значит проверить настолько, чтобы ответить за это самому.
Часть 3 Предвзятость в системах
Здесь почти всё спорно, и как раз этому спору стоит научиться.
- скоро
COMPAS: две правды о справедливости
Спор журналистов и разработчика об ошибках алгоритма по расам и почему при разных базовых долях оба условия справедливости разом не выполнить.
- скоро
По сравнению с кем
Как один алгоритм выглядит рядом с неспециалистом, группой людей и простой формулой и с чем его стоит сравнивать, прежде чем судить.
- скоро
Откуда берётся предвзятость
Данные о прошлом, показатель вместо цели, те, кто не попал в выборку: почему предвзятость не убирают одной правкой.
Часть 4 Власть и правила
У кого вычисления, данные и решения, кто их ограничивает и о чём спорят те, кто боится, с теми, кто нет.
- скоро
У кого власть
Вычисления и данные у немногих компаний, незаметный труд разметчиков: что здесь факт, а что спор о том, плохо ли это.
- скоро
Кто должен писать правила
Кому доверить ограничивать сильные системы: государствам, судам или самим компаниям, и почему ни один ответ не очевиден.
- скоро
Спор о безопасности
Одни предупреждают о вымирании, другие считают ИИ обычной технологией: кто что утверждает, на что опирается и что остаётся спорным.
- скоро
Что может обычный человек
Спросить, кто решил, потребовать живого человека, пожаловаться, не поставить подпись: немного, и это больше, чем ничего.
- скоро
Заглянем вперёд: агенты, которые действуют сами
Когда агент сам тратит деньги и подписывает, вопрос об ответственности становится повседневным: кто платит за ошибку и как об этом договориться.