Новото разширение на Chrome има за цел да направи мрежата по-малко токсична

Новото разширение на Chrome има за цел да направи мрежата по-малко токсична
Jigsaw, която е собственост на компанията майка на Google Alphabet, във вторник пусна Tune, експериментално Chrome разширение, което позволява на потребителите да крият коментарите, които алгоритмите му идентифицират като токсични. Той е достъпен за Mac, Windows, Linux и Chrome OS. Tune се основава на същите модели за машинно обучение (ML), които захранват Jigsaw’s Perspective API, за да оценят токсичността на коментарите. Настройте потребителите да регулират силата на коментарите от нула до всичко. – кликнете върху изображението, за да го увеличите – Tune не е предназначен да бъде решение за директни цели на тормоз, или решение за всяка токсичност, отбеляза Jigsaw Product Manager CJ Adams в онлайн поща. Това е експеримент, за да покаже на хората как ML технологията може да създаде нови начини за овластяване на хората, докато четат дискусии онлайн. Tune работи само за коментари на английски език, във Facebook, Twitter, YouTube, Reddit и Disqus. Коментарите на други езици ще бъдат показани по-горе и скрити по-долу, като предварително зададен праг. Моделът на ML на Tune е експериментален, така че все още пропуска някои токсични коментари и неправилно крие някои нетоксични коментари. Разработчиците работят върху основната технология и потребителите могат да дават обратна връзка в инструмента, за да помогнат за подобряване на алгоритмите. Страх и омраза „Нямаме представа как да се справим с интернет, така че ще го предадем на робот“, каза Майкъл Джуд, програмен мениджър в Stratecast / Frost & Sullivan . „Вие не знаете какво прави с данните, които събира. Не знаете кой го е създал. Вие се отказвате от свободата да правите свои собствени решения“, каза той пред TechNewsWorld. „Ако някой реши да използва социалните медии, човек мълчаливо се съгласява да получи достъп до определено количество несъгласие, реч на омразата, каквото и да е“, посочи Джуд. – Както някога каза един известен комик, вие плащате парите си и рискувате. Как работи Tune Tune е част от изследователския проект Conversation-AI и е напълно отворен код, така че всеки може да разгледа кода или да участва директно в него в Github. „Колкото по-детайлни са API-ите и колкото по-отворени са контролите, толкова по-добри разработчици могат да настроят алгоритмите за разговорен AI, за да генерират по-малко неверни положителни и фалшиви негативи”, казва Ray Wang, главен анализатор в Constellation Research . Въпреки това, Tune ще изисква все по-голямо количество данни за фина настройка. Потребителите трябва да се регистрират, за да предоставят достъп до API за перспектива. Коментарите не са свързани с профилите на потребителите или са запазени от Tune. Вместо това, те се изпращат към API на Perspective за точкуване и след това се изтриват автоматично, след като резултатът бъде върнат. Има два начина за подаване на отзиви: като кликнете върху За> Обратна връзка, където потребителският идентификатор на профила е включен в отчета за обратна връзка; или чрез подаване на поправка на начина на отбелязване на коментар. За корекции, текстът на коментара и отговорът на потребителя се съхраняват за трениране на ML системата, но подаването не е свързано с идентификацията на потребителя. Въпроси за свободна реч Както и при по-ранните опити за управление или контрол на коментари в мрежата, Tune вероятно ще предизвика дебат за свободата на словото. „Във филма“ Зоро, гей блейд „една жена разказа на военния командир на град, който се опита да я спре да протестира, че правилата на града са, че някой може да каже всичко, което харесва на площада – спомни си Джуд. – Жената е права! – отговори командирът. – Тя може да каже всичко, което харесва. Арестувай всеки, който слуша. И все пак „някои смятат, че свободата на словото означава, че трябва да слушате това, което казват“, отбелязва Роб Ендърле, главен анализатор в Enderle Group . „Въпреки че това е неправилно, това не намалява тяхното убеждение, че собствените им думи трябва да бъдат неприкосновени“, каза той пред TechNewsWorld. Технологията Tune „е добър начин за справяне с истински проблем и ще се научи и подобри с течение на времето“, твърди Дъг Хеншън, главен анализатор в Constellation Research. „Tune поставя контрола в ръцете на индивида“, каза той пред TechNewsWorld. „Коментарите все още се публикуват и следователно не се ограничават, но потребителите избират да не ги виждат. Това е тяхното право.“ С ботове и фабрики за нежелани съобщения, които произвеждат фалшиво съдържание, Tune „е отговорът да се вземе обратно някакъв контрол, за да се даде възможност на свободата на словото“, отбеляза Уанг. Tune „ви позволява да се отървете от троловете, които имат непропорционален глас“, каза той. „Също така ще ограничи хората, които излагат едно и също съдържание многократно в коментари.“ Изглежда, че алгоритмите работят добре за Google в сайтовете, които приемат коментари, отбелязва Уанг, и „освобождаването на технологията за другите е добра първа стъпка.“ Заплахата на Tune към социалните медии Социалните медии са свързани с очните ябълки и колкото по-противоречиво е изявлението, толкова повече очни ябълки ще привлекат към страницата. Това повдига въпроса дали използването на Tune може да предизвика реакция от сайтове за социални медии. „Не мисля, че сайтовете на социалните медии биха проклинали собствените си потребители за това, че се опитват да контролират това, което виждат“, казва Хенщен от Constellation. Всъщност те биха могли да видят Tune като полезна, защото „собствениците на съдържание имат задължението да се опитат да се справят с речта на омразата и други подобни, но това е скъпо“, отбеляза той. Перспективата може да бъде заблудена чрез умело използване на езика, но Google разреши някои от ранните проблеми, които възникнаха. Въпреки това, друга група изследователи миналото лято публикува документ, в който се казва, че всички предложени техники за откриване могат да бъдат заобиколени от противниците, които автоматично вмъкват правописни грешки, променящи се граници на думи или добавяне на безвредни думи към речта. Те препоръчват да се използват функции на ниво символи, а не функции на ниво думи, за да направят моделите за разпознаване на реч на ML по-надеждни. Моделът Tune ML все още е незрял, така че „очаквам да видя много проблеми като тази,“ казва Enderle. Веднъж след като е узряло, то „трябва да бъде в състояние да се справи с тези усилия, за да го компрометира достатъчно ефективно, за да направи игрите на системата губене на време“. Ричард Адхикари е репортер на ECT News Network от 2008 г. насам. Неговите области на фокус включват киберсигурност, мобилни технологии, CRM, бази данни, разработка на софтуер, мейнфрейм и компютърни системи от среден клас и разработване на приложения. Той е автор и редактор на множество публикации, включително Информационна седмица и Computerworld . Той е автор на две книги за технология клиент / сървър. Имейл на Ричард.
http://www.technewsworld.com/story/New-Chrome-Extension-Aims-to-Make-the-Web-Less-Toxic-85895.html
2019-03-14 12:08:06