Технологии работы с детьми с рас презентация: Технологии работы с детьми с аутизмом в коррекционной деятельности

8 день сам по себе был задачей: никогда не бывает легко получить полную информацию от блестящих спикеров и заинтересованных участников. Мы призываем вас смотреть и пересматривать сеансы и надеемся, что эта страница может послужить вашим путеводителем по записям, основным моментам, презентационным материалам и ресурсам (такие замечательные ресурсы!). Мы также рекомендуем вам подумать о покупке книг в местных книжных магазинах, принадлежащих чернокожим.

Введение

Доктор Лаура Джастис , наш исполнительный директор, открывает мероприятие и приветствует невероятный состав спикеров. В начале дня Тэнни Крейн, , президент и главный исполнительный директор Crane Group, и декан Дональд Поуп-Дэвис, , доктор философии, Колледж образования и экологии человека в Университете штата Огайо, произносят вступительные слова и задают тон. Они страстно и вдумчиво рассказывают, почему эта тема в настоящее время является наиболее актуальной для обсуждения того, как мы можем (и должны) работать над улучшением благополучия детей с помощью исследований, практики и политики. Дин Поуп-Дэвис также напоминает нам, что это наше наследие.

Сессии

Вступительное слово и основной доклад

Борьба с предвзятостью и антирасистской практикой в ​​дошкольном образовании

При участии Dr. Директор Программы здоровья детей раннего возраста и расовой справедливости в Институте развития детей Фрэнка Портера Грэма при Университете Северной Каролины, Чапел-Хилл

Д-р Ирука утверждает, что именно здесь пересечение исследований, практики и политики имеет решающее значение. Должна быть единая приверженность борьбе с предвзятостью и расизмом. Одна только практика не может создать более равноправное раннее детство. Это требует исследований, чтобы изучить вещи по-другому и политику, которая поддерживает всех детей и семьи. Чтобы предпринять действенные шаги по борьбе с предвзятостью и расизмом, д-р Ирука описывает свою концепцию, используя аббревиатуру 9. 0007 Р.И.Ч.Е.Р. :

R – Повторное изучение истории

I – Интеграция, а не просто десегрегация

C – Критика всего

H – Смирение привилегий

E – Искоренение расизма и политика

Вопреки подходу дальтоников, д-р Ирука призывает нас сделать работу ABAR видимой и исследовать, как системы создают расовое неравенство, и честно исследовать, как это присутствует в наших собственных условиях раннего детства. Она также предлагает очень практические шаги, которые нужно предпринять на нашем собственном пути к борьбе с предвзятостью и расизмом.

ТАБЛИЦА:

• «Еще до рождения дети сталкиваются с расизмом», и раннее детство не освобождается от этого расового неравенства.

РЕСУРСЫ:

• «Скрытая предвзятость и структурная расизация» проекта National Equity Project
• Видео: объяснение системного расизма от act.tv (со списком ресурсов в описании YouTube)
• Доктор Ирука упоминает Отчет Мойнихана. Вот также аннотированное издание.
• «Сила чернокожих семей» от Equal Opportunity Review
• Нажмите здесь для просмотра слайдов доктора Ируки

Секционное заседание 1

Не отворачивайтесь: классы против предвзятости и расизма

С участием Доктор Ихеома У. Ирука, Профессор-исследователь государственной политики, научный сотрудник и директор по охране здоровья детей младшего возраста и Программа расового равенства в Институте развития детей Фрэнка Портера Грэма при Университете Северной Каролины, Чапел-Хилл,

С участием Д-р Стефани Курентон , доцент Колледжа образования и развития человека Уилок Бостонского университета, исполнительный директор лаборатории экологии школьной готовности и директор программы сертификат детской и молодежной политики

д-р Ихеома Ирука и доктор Стефани Курентон, соавторы книги «Не отворачивайся: охват классных комнат против предубеждений , », делятся обзором своей новой книги, способствуя обсуждению почему классы против предубеждений важны и как преподаватели могут использовать классы против предубеждений.

Нажмите на картинку для увеличения (слайд №3).

Цель Don’t Look Away состоит в том, чтобы педагоги и не-педагоги извлекли уроки из истории дошкольного воспитания и образования и каждый день предпринимали действия, чтобы внедрить антипредвзятые классы. В книге представлены истории, вдохновленные реальными событиями в мире, определены термины, связанные с расовой справедливостью, поощряются мультимодальные действия по размышлению (включая движение, музыку и чтение), а также задаются вопросы для размышлений читателя.

Во время сеанса д-р Ирука и д-р Курентон обращаются к аудитории с такими вопросами, как «почему мы как область должны стремиться к полному охвату классных комнат против предвзятости?» Доктор Курентон обрамляет дискуссию напоминанием о текущих сложных событиях: «Учитывая все, что происходит, и все, что оказывает давление на цветные семьи, такое как COVID-19 и очевидная жестокость полиции, мы считаем, что еще важнее стремиться к внедрить антипредвзятые классы».

Аудитория делится такими мыслями, как «Это давно пора», «Классные комнаты должны быть безопасными пространствами» и «Наши классные комнаты — это микрокосм мира нашего будущего. Если мы сможем внести эти изменения в наши классы, эти дети вырастут и будут держать мир в своих руках».

Авторы также подробно описывают действия, которые педагоги должны выполнять в своих классах:

1. 1. Использование участия семьи в качестве инструмента
   2. Проведение аутентичного самоанализа, культурной осведомленности и предвзятости
   3. Борьба с заблуждениями и стереотипами
   4. Обсуждайте и устраняйте расовые предубеждения, предрассудки и дискриминацию с детьми в раннем возрасте и позже
   5. Набор и удержание чернокожих преподавателей и других представителей цветного населения

Нажмите на картинку для увеличения (слайд 5).

Доктор Ирука также бросает вызов воспитателям дошкольного образования около , взаимодействуя с семьями , говоря: «Я хочу, чтобы мы добивались большего успеха в семейном взаимодействии… думая об использовании семейного взаимодействия, чтобы помочь семьям создавать активы (например, богатство и свободу)». Авторы продолжают обрисовывать в общих чертах 4 E вовлечения семей в качестве основного компонента борьбы с предвзятостью и антирасистской практикой.

ЦИТИРОВАТЬ:

• «Часть борьбы с расизмом и предвзятостью заключается в том, что мы должны понимать семьи и работать с ними. Чтобы понять детей, мы должны знать их родственников». – Доктор Ирука
• «Не будьте дальтониками… мы хотим, чтобы вы смотрели через призму чернокожих детей в вашем классе». – Доктор Ирука
• «Эти проблемы нужно обсудить заранее. Пик предубеждений начинается в дошкольном возрасте… они [дети] замечают, когда с людьми обращаются по-разному из-за того, как они выглядят… если мы хотим противостоять этому, мы должны быть явными и преднамеренными в этом». – Доктор Курентон
• «Мы рассматриваем преподавание против предвзятости как то, что вы делаете каждый день в классе». — Доктор Курентон

РЕСУРСЫ:

• Не отворачивайтесь: классы против предвзятости можно купить в местном книжном магазине, принадлежащем чернокожим,
• Литература, подобная этому списку, и Let’s Talk About Race Джулиана Лестера
• Обучение неявной предвзятости Института Кирвана
• Гарвардский проект Implicit
• Фонды знаний Луиса Молла
• Инструмент ACSES (инструмент наблюдения за классом, который рассматривает качество обучения в классе с точки зрения маргинализированных детей в классе)
• Доверие к обучению – Принципы идеального обучения
• Нажмите здесь для слайдов

Секционное заседание 2

Black Minds Matter

С участием доктора Дж. Люка Вуда , вице-президента по делам студентов и разнообразию кампуса и почетного профессора образования в Университете штата Сан-Диего, а также декана -Директор Лаборатории оценки справедливости муниципального колледжа

Black Minds Matter — это группа исследователей, выполняющих работу, которая показывает связь между полицией и школой и то, как оценка жизни чернокожих переплетается с оценкой умов чернокожих. Доктор Дж. Люк Вуд особо выделяет:

• Как мы видим, что черные умы недооцениваются в образовании:
  • Допущение академической неполноценности
  • Отсутствие места в программах для одаренных и талантливых
  • За размещение в специальном образовании

• Способы, которыми мы видим, что чернокожие чрезмерно криминализованы в сфере образования:
  • Чрезмерное количество направлений, отстранений и исключений
  • Другие виды запретительных дисциплин, которые приводят к различию в образовательном опыте цветных детей

Нажмите на картинку для увеличения (слайд №13).

Исследования показывают, что когда в успеваемости учащихся возникают проблемы, обычная реакция основывается на понятии дефицита (т. неверные предположения. Доктор Вуд описывает пирамиду успеха для детей, построенную на нашем собственном восприятии (которое основано на стереотипах). Работая над собственным восприятием, мы можем более эффективно влиять на успеваемость учащихся.

Нажмите на картинку для увеличения (слайд №8).

Три принципа, которые имеют решающее значение для устранения восприятия, особенно в отношении чернокожих детей, — это недоверие, презрение и игнорирование . С помощью как конкретных примеров того, как это выглядит в условиях раннего детства, так и убедительных контраргументов родителей чернокожих детей, доктор Вуд подчеркивает распространенность этих проблем и необходимость создания равноправного обучения для всех детей. В то время как мы часто говорим о травме, которая влияет на образование детей, доктор Вуд призывает нас также обратить внимание на травму, происходящую в системе образования, которая создает этот разный опыт для черных и коричневых детей. Мы можем сделать это, исследуя собственное восприятие, которое, в свою очередь, эффективно меняет нашу практику.

ТАБЛИЦА:

• «Чернокожие дети составляют 18% дошкольного населения, но 42% отстраненных от дошкольного образования. Эти показатели неравенства сохраняются на протяжении всего обучения K-12».
• «Нет никакой тайны в том, как учить черных детей. Во-первых, вы относитесь к ним как к людям. Во-вторых, вы их любите». — Доктор Вуд цитирует Асу Г. Хиллиарда, III 9.0008

РЕСУРСЫ:

• Щелкните здесь для просмотра слайдов

Книги:

• Успех чернокожих учащихся мужского пола от дошкольного до доктора философии. Шон Р. Харпер и Дж. Люк Вуд
• Black Minds Matter Дж. Люка Вуда

Другие ученые, упомянутые доктором Вудом:

• Донна И. Форд
• Джеймс Л. Мур, III
• Идара Эссьен-Вуд
• Шон Р. Харпер
• Тайрон Ховард
• Эбони Замани-Галлахер
• Джеймс Эрл Дэвис
• Брайан Л. Райт
• Честер М. Пирс
• Даррел Винг Сью
• Уолтер Гиллиам

Исследование:

• Проверка содержания D-Three Effect Inventory (DTEI): изучение опыта чернокожих детей в дошкольном образовании
• Чернокожие мальчики в детском саду: влияние социальных навыков на близкие и конфликтные отношения с учителями
• Неявная предвзятость в дошкольных учреждениях: краткое исследование

Сессия прорыва 3

Рычаги подготовки и политики для антирасистских практик раннего детства

с Alycia Hardy , политический аналитик, детские и раннее образование на Clasp

Featuling Featury Featusting Christine-Johnson-Johnson. Штауб , старший политический аналитик отдела ухода за детьми и дошкольного образования в CLASP

С участием Грасиэлы Сехи , владельца присмотра за детьми семьи Сеха в южно-центральной части Лос-Анджелеса , старший консультант по раннему образованию в Детском институте в Портленде, штат Орегон

Модератор: д-р Ихеома У. Ирука,  профессор-исследователь в области государственной политики, научный сотрудник и директор Программы здоровья детей раннего возраста и расовой справедливости в Фонде Фрэнка Портера Грэма Институт развития ребенка при Университете Северной Каролины, Чапел-Хилл,

На этой панели педагоги обсуждают свой подход к борьбе с предвзятостью и расизмом в каждом из своих уникальных условий в качестве поставщика услуг на дому (г-жа Сеха), организации, помогающей семьям в расовой идентичности ( д-р Джексон), а также в программах подготовки учителей и подготовки к работе (г-н О). В частности,

• Г-жа Сеха рассказывает, что среди ее детей в основном представлены семьи из Центральной Америки и чернокожие; она активно работает, чтобы помочь детям принять, оценить и участвовать в различных культурах и языках, и учит детей любить свою собственную уникальность.
• Доктор Джексон рассказывает о расширении прав и возможностей семей, что включает в себя перевод исследования, которое показывает, что подтверждение того, что они чернокожие, является способом повышения устойчивости к расизму в образовательных учреждениях. Он также рассказывает, как Village of Wisdom предоставляет родителям инструменты для оценки среды обучения их детей и дает им возможность ожидать антипредвзятой и антирасистской среды для своих детей.
• Г-н О рассказывает о сути работы ABAR, в которой преподаватели замедляют работу и используют возможности для обучения ABAR, а также оценивают учебные материалы.

Говоря с о важности практики, учитывающей культурные особенности ,

• , д-р Джексон объясняет, что обучение — это процесс соединения новой информации с предыдущими знаниями. Предварительные знания исходят из нашей собственной культуры, поэтому, как педагоги, если мы не понимаем культуру ребенка, мы не можем помочь ему установить эти связи. Он также выступает за то, чтобы дать родителям возможность понять свою расовую принадлежность и ценить мудрость, которую они приносят.
• Г-н О говорит о необходимости дать учителям время и пространство для создания контекста, подтверждающего культуру, и обучения этому, создания индивидуального контекста для обучения, чего невозможно добиться в рамках жестко расписанного учебного плана.
• Г-жа Сеха рассказывает о создании прочной сети с другими поставщиками услуг на дому в ее районе, ссылаясь на то, что сообщество и общение имеют ключевое значение. Она также рассказывает, что ее внимание сосредоточено на практическом воплощении философии работы ABAR со своими учителями, детьми и семьями.

Группа также предлагает нам проверить, не являются ли наши представления о готовности и качестве закодированными расизмом, и как те, кто находится у власти — те, у кого есть платформы — должны прислушаться к призыву создать пространство и возможности для более тонких разговоров о социальной идентичности (вместо того, чтобы возложить эту работу на сообщества черных и коричневых).

РЕСУРСЫ:

• Антипредвзятое образование для детей младшего возраста и нас самих от NAEYC организовано с учетом социальной идентичности и того, что учителя должны думать и делать при рассмотрении различных социальных идентичностей
• «Теория самоопределения и содействие внутренней мотивации, социальному развитию и благополучию» Ричарда М. Райана и Эдварда Л. Деси
• Black Genius Planning от Village of Wisdom создает профиль и план, которые документируют академические, эмоциональные и культурные сильные стороны учащегося
• Ронда Тейлор Буллокс из We Are (Работа над расширением антирасистского образования) в Северной Каролине относительно литературы, помогающей детям исследовать различия
• Фонды знаний Луиса К. Молла
• автобиографических книг «Все обо мне», созданных детьми. Вот один из шаблонов Scholastic
.

Культурно-значимые практики и исследователи:

• «Но это же просто хорошее учение! Дело о культурно значимой педагогике», Глория Лэдсон-Биллингс
• «Понимание преподавания с учетом культурных особенностей» от New America
• Женева Гей
• Джанго Пэрис
• Самы Алим
• Донна-Мари Винн
• Ховард С. Стивенсон

Панель политики и заключительные комментарии

Что может сделать правительство для борьбы с расизмом и его последствиями для детей младшего возраста?

Featuring Joy Bivens, Director of Franklin County Jobs and Family Services

Featuring Stephanie Howse , 11th District, Ohio House of Representatives

Featuring Priscilla Тайсон , Член городского совета Колумбуса

Модератор: Доктор Валери Эллой , руководитель отдела управления грантами Управления общественного планирования и сотрудничества, руководитель инициатив по охране психического здоровья детей раннего возраста Бюро по делам детей и семей, Огайо Департамент психического здоровья и наркологии

В этой группе член палаты представителей Хоуз, член совета Тайсон и директор Бивенс обсуждают влияние расизма и предубеждений на маленьких детей и то, как это проявляется в их соответствующих ролях. В частности:

• Директор Бивенс отмечает, что больше всего от бедности в округе (округ Франклин) страдают цветные женщины и дети.
• Член совета Тайсон говорит, что расизм влияет на возможности и ресурсы и проявляется в плохом образовании, предвзятости преподавателей, а также в жилищной политике, занятости и политике здравоохранения.
• Хоуз разделяет убедительный исторический факт: несмотря на то, что он был основан в 1803 году, только в 1978 году, или 175 лет спустя, в Огайо появилась чернокожая женщина, работающая в Палате представителей Огайо. Она затрагивает кризис детской смертности в Огайо и влияние COVID на работающие семьи с детьми как два других способа, которыми расизм непропорционально влияет на чернокожих детей.

Д-р Эллой спрашивает о конкретных шагах и стратегиях для продвижения работы по расовому равенству в своем сообществе.

• Директор Бивенс напоминает нам, что вы выступаете за перемены, если за столом переговоров нет людей, на которых политика оказывает наибольшее влияние.
• Хаус дает простой, но иногда трудный совет: «Встань, говори и действуй». Она призывает слушателей перестать быть свидетелями несправедливости и «вложить шкуру в игру».

Группа также обсуждает необходимость объявить расизм кризисом общественного здравоохранения – действие, которое член совета Тайсон предпринял для города Колумбус и которое член палаты представителей Хоуз недавно предложил на уровне штата.

РЕСУРСЫ:

• Директор Бивенс — посмотрите, как она обсуждает «Расизм в Колумбусе» вместе с другими лидерами на форуме Columbus Business First
• Член палаты представителей Хоуз — Законодательное собрание чернокожих в Огайо объявляет расизм кризисом общественного здравоохранения
• Член совета Тайсон — узнайте больше о ее комиссии по чернокожим девушкам
• Доктор Эллой — посмотрите ее выступление «Дети, расизм и травма: системный сбой на перекрестке» во время вебинара Case Western Reserve под названием «Травма, психическое здоровье и употребление психоактивных веществ» (вы можете «зарегистрироваться», чтобы получить видео по запросу)

Закрытие

Закрытие дня было Д-р Джеймс Мур , вице-проректор по разнообразию и инклюзивности и директор по вопросам разнообразия в Университете штата Огайо, который призывает нас к тому, что наша работа и инвестиции в практику ABAR сегодня приносят пользу семена, которые завтра соберут урожай. Чтобы услышать заключительные замечания, перейдите к минуте 47 записи политики или щелкните здесь.

Гонка за пониманием захватывающего и опасного мира языка ИИ

Искусственный интеллект

Сотни ученых по всему миру работают вместе, чтобы понять одну из самых мощных новых технологий, пока не стало слишком поздно.

By

• Страница архива Карен Хао

20 мая 2021 г.

18 мая генеральный директор Google Сундар Пичаи анонсировал впечатляющий новый инструмент: систему искусственного интеллекта под названием LaMDA, которая может общаться с пользователями на любые темы.

Для начала Google планирует интегрировать LaMDA в свой основной поисковый портал, своего голосового помощника и Workplace, свою коллекцию облачного программного обеспечения для работы, которое включает Gmail, Docs и Drive. Но конечная цель, по словам Пичаи, состоит в том, чтобы создать диалоговый интерфейс, который позволит людям получать любую информацию — текстовую, визуальную, звуковую — во всех продуктах Google, просто спрашивая.

Внедрение LaMDA свидетельствует о еще одном способе, которым языковые технологии проникают в нашу повседневную жизнь. Но яркая презентация Google опровергла этические дебаты, которые сейчас окружают такие передовые системы. LaMDA — это то, что известно как большая языковая модель (LLM) — алгоритм глубокого обучения, обученный на огромных объемах текстовых данных.

Исследования уже показали, как в эти модели встроены расистские, сексистские и оскорбительные идеи. Они связывают такие категории, как врачи с мужчинами и медсестры с женщинами; хорошие слова с белыми людьми и плохие с черными людьми. Прощупайте их правильными подсказками, и они также начнут поощрять такие вещи, как геноцид, членовредительство и сексуальное насилие над детьми. Из-за своего размера они имеют поразительно высокий углеродный след. Из-за своей беглости они легко сбивают людей с толку, заставляя их думать, что их результаты написаны человеком, что, как предупреждают эксперты, может привести к массовому производству дезинформации.

В декабре Google уволила соруководителя отдела этического ИИ Тимнита Гебру после того, как она отказалась отозвать статью, в которой говорилось о многих из этих моментов. Несколько месяцев спустя, после широкомасштабного осуждения того, что в открытом письме сотрудники Google назвали «беспрецедентной цензурой исследований компании», она также уволила соавтора и соруководителя Гебру Маргарет Митчелл.

Не только Google внедряет эту технологию. Самыми известными языковыми моделями до сих пор были GPT-2 и GPT-3 OpenAI, которые извергают удивительно убедительные фрагменты текста и даже могут быть переназначены для завершения музыкальных композиций и компьютерного кода. Microsoft теперь эксклюзивно лицензирует GPT-3 для включения в еще не анонсированные продукты. Facebook разработал собственные LLM для перевода и модерации контента. А стартапы создают десятки продуктов и услуг на основе моделей технологических гигантов. Достаточно скоро все наши цифровые взаимодействия — когда мы пишем по электронной почте, ищем или публикуем в социальных сетях — будут фильтроваться через LLM.

К сожалению, проводится очень мало исследований, чтобы понять, как недостатки этой технологии могут повлиять на людей в реальных приложениях, или чтобы выяснить, как разработать лучшие LLM, которые уменьшат эти проблемы. Как подчеркнул Google в своем обращении к Гебру и Митчеллу, те немногие компании, которые достаточно богаты, чтобы обучать и поддерживать LLM, имеют большой финансовый интерес в том, чтобы отказаться от тщательного изучения их. Другими словами, LLM все чаще интегрируются в лингвистическую инфраструктуру Интернета на шатком научном фундаменте.

Более 500 исследователей со всего мира стремятся узнать больше о возможностях и ограничениях этих моделей. Работая вместе в рамках проекта BigScience под руководством Huggingface, стартапа, который использует подход «открытой науки» к пониманию обработки естественного языка (NLP), они стремятся создать LLM с открытым исходным кодом, который будет служить общим ресурсом для научного сообщества. . Цель состоит в том, чтобы получить как можно больше стипендий в течение одного целенаправленного года. Их центральный вопрос: как и когда следует разрабатывать и развертывать LLM, чтобы воспользоваться их преимуществами без вредных последствий?

«На самом деле мы не можем остановить это сумасшествие вокруг больших языковых моделей, где все хотят их обучать», — говорит Томас Вольф, главный научный сотрудник Huggingface, который является одним из руководителей инициативы. «Но что мы можем сделать, так это попытаться подтолкнуть это в направлении, которое в конечном итоге будет более выгодным».

В том же месяце, когда BigScience начала свою деятельность, стартап под названием Cohere незаметно вышел из тени. Созданный бывшими исследователями Google, он обещает предоставить LLM любому предприятию, которое захочет, — с помощью одной строки кода. Компания разработала методику обучения и размещения собственной модели с неиспользуемыми остатками вычислительных ресурсов в центре обработки данных, что снижает затраты на аренду необходимого облачного пространства для обслуживания и развертывания.

Среди его первых клиентов — стартап Ada Support, платформа для создания чат-ботов поддержки клиентов без кода, у которой есть клиенты, такие как Facebook и Zoom. В список инвесторов Cohere входят некоторые из самых громких имен в этой области: пионер компьютерного зрения Фей-Фей Ли, обладатель премии Тьюринга Джеффри Хинтон и глава Apple по искусственному интеллекту Ян Гудфеллоу.

Cohere — один из нескольких стартапов и инициатив, которые в настоящее время стремятся привлечь LLM в различные отрасли. Есть также Aleph Alpha, стартап из Германии, который стремится построить немецкий GPT-3; неназванное предприятие, начатое несколькими бывшими исследователями OpenAI; и инициатива с открытым исходным кодом Eleuther, которая недавно запустила GPT-Neo, бесплатную (и несколько менее мощную) копию GPT-3.

Но все большее число исследователей беспокоит разрыв между тем, чем являются LLM, и тем, к чему они стремятся. LLM — это, по сути, самая мощная технология автозаполнения в мире. Проглатывая миллионы предложений, абзацев и даже образцов диалогов, они изучают статистические закономерности, управляющие тем, как каждый из этих элементов должен располагаться в разумном порядке. Это означает, что LLM могут улучшать определенные действия: например, они хороши для создания более интерактивных чат-ботов с плавным диалогом, которые следуют хорошо зарекомендовавшему себя сценарию. Но на самом деле они не понимают, что читают или говорят. Многие из самых передовых возможностей LLM сегодня также доступны только на английском языке.

Среди прочего, именно об этом предупреждали Гебру, Митчелл и еще пять ученых в своей статье, в которой LLM названы «стохастическими попугаями». «Языковая технология может быть очень и очень полезной, если она правильно определена, расположена и структурирована», — говорит Эмили Бендер, профессор лингвистики Вашингтонского университета и один из соавторов статьи. Но универсальный характер LLM — и убедительность их мимикрии — побуждает компании использовать их в областях, для которых они не обязательно подходят.

В недавнем программном докладе на одной из крупнейших конференций по искусственному интеллекту Гебру связала поспешное развертывание LLM с последствиями, с которыми она столкнулась в своей жизни. Гебру родился и вырос в Эфиопии, где эскалация войны опустошила самый северный регион Тыграй. Эфиопия также является страной, где говорят на 86 языках, почти все из которых не учитываются в основных языковых технологиях.

Несмотря на то, что у LLM есть эти лингвистические недостатки, Facebook в значительной степени полагается на них для автоматизации модерации своего контента во всем мире. Когда в ноябре впервые разразилась война в Тыграе, Гебру увидел, как платформа барахтается, пытаясь справиться с потоком дезинформации. Это символизирует постоянную закономерность, которую исследователи наблюдали при модерации контента. Сообщества, говорящие на языках, не являющихся приоритетными для Кремниевой долины, страдают от наиболее враждебной цифровой среды.

Гебру заметил, что на этом вред тоже не заканчивается. Когда фейковые новости, разжигание ненависти и даже угрозы смертью не модерируются, они удаляются в качестве обучающих данных для создания LLM следующего поколения. И эти модели, как попугаи повторяя то, чему они обучены, в конечном итоге изрыгают эти токсичные лингвистические шаблоны в Интернете.

Во многих случаях исследователи недостаточно тщательно исследовали, чтобы понять, как эта токсичность может проявиться в последующих приложениях. Но некоторая стипендия существует. В ее книге 2018 года Алгоритмы угнетения Сафия Ноубл, доцент кафедры информации и афроамериканских исследований Калифорнийского университета в Лос-Анджелесе, задокументировала, как предубеждения, заложенные в поиске Google, увековечивают расизм и, в крайних случаях, возможно, даже мотивируют расовое насилие.

«Последствия довольно серьезные и значительные», — говорит она. Google — это не просто основной портал знаний для обычных граждан. Он также обеспечивает информационную инфраструктуру для учреждений, университетов, а также правительств штатов и федерального правительства.

Google уже использует LLM для оптимизации некоторых результатов поиска. Своим последним объявлением о LaMDA и недавним предложением, опубликованным в препринте, компания ясно дала понять, что будет только увеличивать свою зависимость от этой технологии. Ноубл опасается, что это может усугубить обнаруженные ею проблемы: «Тот факт, что команда этического ИИ Google была уволена за поднятие очень важных вопросов о расистских и сексистских моделях дискриминации, заложенных в больших языковых моделях, должен был стать тревожным звонком».

Проект BigScience начался в ответ на растущую потребность в научном контроле LLM. Наблюдая за быстрым распространением технологии и попытками Google ввести цензуру в отношении Гебру и Митчелла, Вольф и несколько его коллег поняли, что исследовательскому сообществу пора взять дело в свои руки.

Вдохновленные открытым научным сотрудничеством, таким как ЦЕРН в физике элементарных частиц, они задумали идею LLM с открытым исходным кодом, которую можно было бы использовать для проведения критических исследований независимо от какой-либо компании. В апреле этого года группа получила грант на его создание с использованием суперкомпьютера французского правительства.

В технологических компаниях LLM часто создаются всего полдюжиной людей, обладающих в основном техническими знаниями. BigScience хотела привлечь сотни исследователей из самых разных стран и дисциплин для участия в действительно совместном процессе построения модели. Вольф, француз, впервые обратился к французскому сообществу НЛП. С этого момента инициатива превратилась в глобальную операцию, в которой участвуют более 500 человек.

Сотрудничество в настоящее время свободно организовано в дюжину рабочих групп, каждая из которых занимается различными аспектами разработки и исследования моделей. Одна группа будет измерять воздействие модели на окружающую среду, включая углеродный след обучения и запуска LLM, а также учитывать затраты на жизненный цикл суперкомпьютера. Другая будет сосредоточена на разработке ответственных способов получения обучающих данных — поиске альтернатив простому извлечению данных из Интернета, таких как расшифровка исторических радиоархивов или подкастов. Цель состоит в том, чтобы избежать ненормативной лексики и несогласованного сбора личной информации.

Другие рабочие группы занимаются разработкой и оценкой «многоязычия» модели. Для начала BigScience выбрала восемь языков или языковых семей, включая английский, китайский, арабский, индийский (включая хинди и урду) и банту (включая суахили). План состоит в том, чтобы тесно сотрудничать с каждым языковым сообществом, чтобы определить как можно больше его региональных диалектов и обеспечить соблюдение его особых норм конфиденциальности данных. «Мы хотим, чтобы люди имели право голоса в том, как используются их данные», — говорит Ясин Джернит, исследователь Huggingface.

Смысл не в том, чтобы создать коммерчески жизнеспособный LLM, способный конкурировать с подобными GPT-3 или LaMDA. Модель будет слишком большой и слишком медленной, чтобы быть полезной для компаний, говорит Карен Форт, доцент Сорбонны. Вместо этого ресурс предназначен исключительно для исследований. Каждая точка данных и каждое решение по моделированию тщательно и публично документируются, поэтому легче проанализировать, как все части влияют на результаты модели. «Речь идет не только о выпуске конечного продукта, — говорит Анжела Фан, исследователь Facebook. «Мы представляем себе каждую его часть как точку доставки, как артефакт».

Этот проект, несомненно, является амбициозным — более глобальным и совместным, чем любой другой, который сообщество ИИ видело раньше. Логистика координации такого количества исследователей сама по себе является сложной задачей. (На самом деле, для этого тоже есть рабочая группа.) Более того, каждый исследователь вносит свой вклад на добровольной основе. Грант французского правительства покрывает только вычислительные, а не человеческие ресурсы.

Но исследователи говорят, что общая потребность, которая объединила сообщество, вызвала впечатляющий уровень энергии и импульса. Многие с оптимизмом смотрят на то, что к концу проекта, который продлится до мая следующего года, они получат не только более глубокие знания об ограничениях LLM, но и более совершенные инструменты и практики для их создания и ответственного развертывания.

Организаторы надеются, что это вдохновит больше людей в отрасли на включение этих практик в их собственную стратегию LLM, хотя они первыми признают, что они идеалистичны. Во всяком случае, огромное количество вовлеченных исследователей, в том числе многих из технологических гигантов, поможет установить новые нормы в сообществе НЛП.

В некотором смысле нормы уже изменились. В ответ на разговоры об увольнении Гебру и Митчелла Cohere услышала от нескольких своих клиентов, что они обеспокоены безопасностью технологии. На своем сайте он включает страницу на своем веб-сайте с обещанием постоянно инвестировать в технические и нетехнические исследования, чтобы смягчить возможный вред своей модели. В нем говорится, что он также соберет консультативный совет, состоящий из внешних экспертов, чтобы помочь ему разработать политику в отношении допустимого использования его технологий.

«НЛП переживает очень важный поворотный момент, — говорит Форт. Вот почему BigScience так интересна. Это позволяет сообществу продвигать исследования вперед и предлагать обнадеживающую альтернативу статусу-кво в отрасли: «Он говорит: «Давайте сделаем еще один шаг. Давайте вместе выясним, как и чем мы можем помочь обществу».

«Я хочу, чтобы НЛП помогало людям, — говорит она, — а не унижало их».

Обновление: Инициативы Cohere по ответственности были уточнены.

Карен Хао

Глубокое погружение

Искусственный интеллект

Что GPT-3 «знает» обо мне?

Крупноязыковые модели обучаются на массивах персональных данных, собранных в Интернете. Так что я хотел знать: Что это имеет на меня?

Оставайтесь на связи

Иллюстрация Роуз Вонг

Получайте последние обновления от

Введите адрес электронной почты

Спасибо за отправку вашего электронного письма!

Ознакомьтесь с другими информационными бюллетенями

Похоже, что-то пошло не так.

У нас возникли проблемы с сохранением ваших настроек. Попробуйте обновить эту страницу и обновить их один раз больше времени. Если вы продолжаете получать это сообщение, свяжитесь с нами по адресу [email protected] со списком информационных бюллетеней, которые вы хотели бы получать.

Образование — Инициатива Чана Цукерберга

Подпишитесь на обновления

Представляем вместе: инструмент для учителей, помогающий учащимся чувствовать себя замеченными и известными

Справедливый подход к образованию для всех детей

Мы верим в систему образования, основанную на расовом равенстве, которая дает каждому учащемуся именно то, что ему нужно, чтобы добиться успеха в школе и преуспевать за пределами класса, и которая отвечает потребностям ребенка в целом. Для этого система образования K-12 должна быть преобразована путем: разработки тщательного и инклюзивного обучения, при котором каждый ученик чувствует, что его видят, слышат и ценят как часть сообщества; расширение определения успеваемости учащихся за пределы академических кругов, включив в него как благополучие, так и успеваемость; центрирование голосов чернокожих, коричневых и коренных учащихся и их опекунов при принятии решений о том, как система образования может помочь учащимся процветать и преуспевать.

Продвижение исследований на практике

Расширение области обучения науке и развитию человека, расширение измерения среды обучения и поддержка сотрудничества, которое предлагает решения, основанные на принципах справедливости, в классе.

• Инвестировать в инновационные школьные практики, основанные на исследованиях, мудрости и опыте практиков, таких как педагоги и клиницисты
• Поддерживать целостные потребности педагогов и их способность удовлетворять потребности всего ребенка
• Поддерживать поток разнообразных талантов в области измерения и совместное создание новых показателей среды обучения с сообществами и педагогами для обеспечения справедливости в образовании

Узнать больше.

Build Enabling Technology

Мы объединяем педагогических экспертов, ученых и разработчиков программного обеспечения для создания инструментов для педагогов, которые позволяют им лучше вовлекать учащихся и достигать всесторонних результатов ребенка.

• Сотрудничайте с Gradient Learning, чтобы создавать учебный опыт и инструменты, подобные тем, которые можно найти в Summit Learning и Along, чтобы помочь учителям справедливо дифференцировать учебный процесс и установить прочные связи со своими учениками
• Расширить доступ к образовательным моделям, основанным на науке обучения и развития

Узнать больше.

Поддержка условий для изменений

Инвестиции в пропаганду политики, организацию на местах и ​​партнерские отношения для создания импульса и ресурсов, чтобы помочь системе образования удовлетворить потребности всего ребенка и обеспечить справедливость.

• Сотрудничайте с семьями, педагогами, исследователями, правозащитниками и политиками, чтобы продвигать более справедливую систему образования, поддерживающую всех детей
• Инвестируйте в лидеров чернокожих, коричневых и коренных народов для продвижения расовой справедливости в системе образования
• Поддержка чернокожих, коричневых и коренных учащихся и их опекунов в разработке образовательных программ

Узнать больше.

Основные моменты

Хотите узнать больше о нашей работе в сфере образования? Получите самую свежую информацию по ссылкам ниже.

Познакомьтесь с нашей командой

«Мы считаем, что нам необходимо применять целостный подход к образованию детей. Тот, который уважает человечность каждого учителя и ученика и использует справедливый подход к каждому ученику, полностью раскрывающему свой потенциал».