https://wikicshse.ru/index.php?action=history&feed=atom&title=%D0%A0%D0%B5%D0%B4%D0%B0%D0%BA%D1%82%D0%BE%D1%80_%D0%BF%D0%B0%D1%80%D0%B0%D0%BB%D0%BB%D0%B5%D0%BB%D1%8C%D0%BD%D1%8B%D1%85_%D1%80%D0%B0%D0%B7%D0%BC%D0%B5%D1%82%D0%BE%D0%BA_%28%D0%BF%D1%80%D0%BE%D0%B5%D0%BA%D1%82%29Редактор параллельных разметок (проект) - История изменений2026-06-06T20:36:56ZИстория изменений этой страницы в викиMediaWiki 1.45.3https://wikicshse.ru/index.php?title=%D0%A0%D0%B5%D0%B4%D0%B0%D0%BA%D1%82%D0%BE%D1%80_%D0%BF%D0%B0%D1%80%D0%B0%D0%BB%D0%BB%D0%B5%D0%BB%D1%8C%D0%BD%D1%8B%D1%85_%D1%80%D0%B0%D0%B7%D0%BC%D0%B5%D1%82%D0%BE%D0%BA_(%D0%BF%D1%80%D0%BE%D0%B5%D0%BA%D1%82)&diff=2433&oldid=previmported>Ira dolgaleva: Migrated current public revision from wiki.cs.hse.ru2015-10-20T07:50:27Z<p>Migrated current public revision from wiki.cs.hse.ru</p>
<p><b>Новая страница</b></p><div>{{Карточка_проекта<br />
|name=Редактор параллельных разметок<br />
|mentor=Фролов Дмитрий<br />
|mentor_login={{URLENCODE:Dmitry|WIKI}}<br />
|semester=Весна 2015<br />
|course=1<br />
|summer=<br />
|categorize=yes<br />
|is_archived=yes<br />
}}<br />
<br />
=== Что это за проект? ===<br />
====Мотивировка====<br />
<br />
Для разметки языковых данных в корпусах, базах данных и т.п. часто пользуются краудсорсингом, привлекая студентов, школьников, энтузиастов, низкооплачиваемых mechanical turks. Являясь непрофессионалами и не имея достаточного опыта, эти разметчики делают много ошибок, поэтому обычно одни и те же данные размечаются двумя-тремя-.. - пятью разметчиками. Нужен интерфейс для супервайзера-профессионала, который на основе этих параллельных разметок создаст правильную итоговую разметку. (Аналогично такую чистовую разметку делают на основе ответов нескольких автоматических разметчиков).<br />
<br />
====Что такое разметка?==== <br />
<br />
Токен (слово или другая единица языка) с приписанным ему набором тегов ("разбором"), ср. пример из древнерусского:<br /><br />
<ana lex="проблискатисѧ" gr="V,praes,sg,3p" source_el="ἀπαστράπτεται"/>проблискаѥтсѧ<br /><br />
Пример параллельной разметки можно увидеть на картинке справа.<br />
<br />
[[Файл:IMAG1097.jpg|мини]]<br />
<br />
====Требования к разрабатываемой системе====<br />
<br />
Система должна предоставлять следующие функции (I):<br />
<br />
# создавать "новый проект" и загружать исходные файлы (от двух до N xml-файлов разметки)<br />
# выравнивать данные из разных файлов по токенам (возможны мелкие расхождения)<br />
# показывать расхождения<br />
# давать возможность пользователю выбрать один вариант ("правильный вариант")<br />
# автоматически выбирать "правильный вариант", если разметки для токена везде совпадают<br />
# выделять или (как опция) автоматически выбирать наиболее вероятный разбор по принципу "большинство голосует" (если разметок 3 и больше)<br />
# давать возможность вручную написать новый разбор, если другие не годятся (в поле для редактирования)<br />
# сохранять итоговую разметку в xml-файл (токены, для которых ответ не выбран, остаются без разметки)<br />
# сохранять информацию о текущем состоянии в файл "проекта"<br />
# проверять валидность итогового xml-файла (с учетом п. 7)<br />
# сообщать, сколько разборов осталось неразмеченными, и переходить к следующему неразмеченному<br />
# давать возможность увидеть контекст (несколько токенов слева и справа от текущего), возможно - в виде всплывающего поля по клику (дизайн - на усмотрение разработчиков)<br />
<br />
Дополнительные требования (II):<br />
<br />
# отрисовывать блекло повторяющиеся разборы, чтобы они не отвлекали пользователя (совсем скрывать их нежелательно, чтобы пользователь видел, откуда пришел тот или иной разбор)<br />
# показывать [http://en.wikipedia.org/wiki/Cohen%27s_kappa каппу] inter-annotator agreement <br />
# ранжировать аннотаторов от "хороших" к "плохим" (по степени их согласования с большинством), сначала показывать "хороших", потом "плохих"<br />
# вручную менять порядок показа их разборов<br />
# особым образом помечать сложные случаи, чтобы потом можно было к ним вернуться (+ переходить между ними), иметь возможность писать к ним комментарии<br />
# возможность оставить два и более разбора в итоговой разметке (такая потребность реально бывает)<br />
# убирать и добавлять токены в разметку (связано с тем, что границы между токенами требуется поменять вручную).<br />
<br />
=== Чему вы научитесь? ===<br />
<br />
# Основы проектирования и разработки клиент-серверных приложений<br />
# Базовые знания Unix Shell<br />
# Работа с нереляционными базами данных<br />
<br />
=== Какие начальные требования? ===<br />
<br />
# Представление о технологиях создания веб-страниц<br />
# Основы языка программирования Python<br />
<br />
=== Какие будут использоваться технологии? ===<br />
<br />
# HTML/CSS, JavaScript, JQuery<br />
# Python 2.7<br />
# WebPy/Web2Py/Django<br />
# Ubuntu Linux/OpenSUSE/FreeBSD, GNU Emacs или Vim - на выбор<br />
# MongoDB<br />
# git, github/bitbucket<br />
# http-сервер Nginx/Apache (возможно - в связке с WSGI-сервером (Gunicorn))<br />
<br />
=== Темы вводных занятий ===<br />
<br />
# Архитектура клиент-серверных приложений и основные принципы разработки<br />
# Нереляционные базы данных, преимущества, недостатки, особенности использования<br />
<br />
=== Направления развития ===<br />
<br />
# Различные варианты усовершенствование архитектуры серверной части, механизмов и алгоритмов клиент-серверного взаимодействия<br />
<!--# Развертывание кластера серверов с распределением нагрузки (например, http-сервером)<br />
# Развертывание кластера БД с шардами и репликацией --><br />
<br />
=== Критерии оценки ===<br />
<br />
# 4-5 - Система представляет собой клиент-серверное приложение, реализующее как минимум половину функции из списка требований (I)<br />
# 6-7 - Система, реализующая все функции из списка требований (I).<br />
# 8-10 - Система, реализующая функции все функции из списка требований (I), и, кроме того, реализованы 1-2 или более функций из списка Дополнительных требований (II). Для получения самого высокого балла (10) разработанная система должна иметь защиту от использования незарегистрированными пользователями, предоставлять возможность регистрации и входа в систему.</div>imported>Ira dolgaleva