OUR COMPANY
Bring your ideas to life
Anything you've even dreamed about is possible to realise just at the moment when you decided to win.
3 признака того, что вы в секте Искусственного интеллекта и данных
Доверяйте собственным глазам, а не только десятичным запятым.
Я вырос в секте. После того, как покинул ее
12 лет назад, я изучал инструменты и техники, используемые сектантами для заманивания новых членов. Как вы догадывайтесь, у меня есть глубоко укоренившееся желание НИКОГДА не быть втянутым в это снова, поэтому в моей голове срабатывает оглушительная сигнализация, когда я улавливаю малейшие признаки того, как организация аппелирует к стадному мышлению, чтобы контролировать своих членов. И это то, что я вижу в сфере высоких технологий.
1. Вам нельзя разговаривать с другими.

Секты используют промывание мозгов, не позволяя своим членам общаться с людьми за ее пределами. Facebook и Google сейчас очевидно стремятся нанимать до 80% специалистов с докторской степенью в машинном обучении. Подписанные ими трудовые договоры обязуют их не разглашать информацию об их работе не только за пределами организации, но иногда даже за рамками своих рабочих групп. Это пугает.

Это, конечно, помогает понять, как Google удалось запустить абсолютно провальный проект по созданию бота на основе искусственного интеллекта (ИИ) - Duplex, который симулирует голос, чтобы делать звонки от вашего имени. Корпоративная философия Google прочно укоренилась в сознании сотрудников их, которые не общаются с внешним миром и не могут получить обратную связь от тех, кто не подвергся промывке мозгов. Если бы они могли поговорить с кем-то за пределами их «пузыря», они бы получили откровенное: «Что за...? Это просто чудовищно».

Google также противится тому, чтобы сотрудники компании пользовались веб-сервисами других разработчиков. У меня был странный разговор с одной из сотрудниц-ветеранов Google, которая не подписывалась на AirTable для связи со мной, потому что она использует только инструменты Google, даже для личных целей вне работы. Очевидно, она не могла представить себя отдельно от Google. При упоминании работодателя она всегда говорила «мы», например, «мы не пользуемся ПО других компаний». Меня прямо мутило от таких разговоров.

Лидеры культов учат своих членов не доверять всему, что находится вне их мира. В секте я все время слышал фразу, что «мир» не понимает нас, и это приводило к тому, что посторонние идеи никогда не воспринимались мною всерьез. Меня учили рассматривать любого, кто был «не с нами», как врага.

Решение: относитесь с большим подозрением к авторитетам, которые говорят, что вы не можете или не должны обсуждать то, что делаете, с другими людьми.
Мы, как создатели систем на основе ИИ, должны иметь возможность общаться друг с другом и решать, как создавать алгоритмы, которые принесут пользу всему человечеству. Это невероятно сложная задача, и нельзя решать ее, спрятавшись в собственном бункере.
2. Математика как продвинутое средство промывки мозгов.

Индустрия высоких технологий гордится тем, что решения принимаются на основании данных, хотя я вижу своего рода догматизм вокруг ИИ, и это здорово напоминает сектантский подход.

Как бы мы к этому ни относились, всё большее количество решений в нашей жизни принимается с помощью алгоритмов. Было время, когда банк принимал решение о предоставлении займа при личной встрече с вами. Сейчас работники банка проверяют данные по вашей кредитной истории. Было время, когда приговор о тюремном заключении выносился человеком в черной мантии с молотком в руке. Сейчас всё чаще и чаще приговоры выносятся на основании или под влиянием действия алгоритмов.

В обоих случаях алгоритмы должны обеспечивать более справедливую систему, которая будет относиться ко всем одинаково. В обоих случаях алгоритмы показали большую предвзятость в суждениях, чем человек.

Алгоритмы всегда ошибаются, всегда несовершенны. В лучшем своем виде они компактны, полезны и эффективны, но они никогда не корректны на 100%.

Решение: Доверяйте своим собственным глазам.
Ни при каких условиях мы не должны забывать о собственном чувственном восприятии. Наши зрение и слух расскажут нам, насколько хорошо то, что мы создаем, но мы должны поставить себе задачу смотреть и слушать. В высокотехнологичных индустриях часто цифры значат больше, чем богатый человеческий опыт, который говорит о том, «как» и «почему», а не просто о том «что» случилось. Мы должны перестать слепо верить простым цифрам, которые просты и удобны только по сравнению с зачастую запутанными и противоречивыми человеческими историями.
Нам нужны ВСЕ данные - как количественные, так и качественные.
Цифры никогда не отобразят детали, необходимые для осмысления культурной ценности вещей, воплощенных в цифровом виде. Например, цифры не скажут вам, почему аккаунты транссексалов блокируются, и какое влияние это имеет на их жизнь. Во всем мире не найдется достаточного количества цифр, чтобы адекватно рассказать эту историю. Нам просто необходимы детальные, сложные истории для того, чтобы исправлять ошибки в наших алгоритмах.
3. Секты контролируют финансовую сторону жизни своих членов.

Я знаю массу людей, работающих в Силиконовой долине, и хотя некоторые из них реально верят в миссию своей компании, большинство остаются там из-за зарплаты. Я там бывал. Я знаю. Иногда люди продают душу за большие деньги.

Обычно членов сект контролируют финансово, заставляя их делать низко- или неоплачиваемую работу. В FaceGoog делают прямо противоположное, платя людям настолько больше, чем в других местах, даже чем в компаниях из той же индустрии, что люди добровольно надевают на себя кандалы. Если вы купили дом и/или отдали детей в частную школу, любое понижение качества жизни автоматически приведет к большим проблемам в семье.

«Золотые наручники» так называются вовсе не потому, что это дань уважения тем, кто их носит. Мой хороший друг и бывший коллега только что отметил годовщину работы в Facebook. Он буквально отсчитывает дни до окончания 4-х летних обязательств по контракту, чтобы двигаться дальше. И я должен сказать, эта история вообще неинтересна, поскольку она стандартная. Подобная форма финансового контроля стала нормой настолько, что люди даже не думают о других опциях.

Не существует «стандартных» контрактов. Если вы продвигаете интересы своей компании или обговариваете условия трудоустройства, встаньте перед зеркалом и повторяйте эти слова снова и снова, чтобы при случае автоматом выпалить их в ответ на возражения.

Решение: если ваша компания просит вас делать то, что противоречит вашей морали, не делайте этого.
Я бы хотел предложить вам простое решение, но такого нет. Если у вас есть принципы и вы их защищаете, это может стать угрозой для вашей карьеры. Вас могут заставить паковать вещи на глазах у остальных.

«Принцип не принцип, пока ты чем-то за него не поплатился.»

– Билл Бернбах

Защищая свои принципы, я покинул свою секту в 26 лет. Это стоило мне брака, привело к тому, что меня игнорировала вся моя социальная группа, а мой счет в банке изрядно уменьшился. Моя челюсть судорожно сжалась на целый месяц из-за такого стресса, но я тем не менее, никогда ни о чем не жалел.

Если ты восстал из пепла, ты уже никогда не будешь бояться огня.
Это тяжело, понятно. Если ты решаешься сжечь все мосты за собой, тебе приходится придумывать, какую именно новую жизнь ты будешь жить. Теперь я доверяю себе настолько, как раньше и представить не мог.

Я потерял $200 000, инвестированные в собственный стартап, и до сих пор выплачиваю долг. Несмотря на это, я взял двухмесячный перерыв в своем консультировании, чтобы написать книгу. Я живу в Bay Area около 2-х лет без нормальной работы. Мои соседи по квартире ездят автостопом, чтобы сводить концы с концами, но угадайте, что? Мы не умерли и не голодали ни разу за это время. Вовремя платим за жилье, и при этом у нас нет даже половины того стресса, что испытывают мои друзья с солидным послужным списком. 100-процентной ложью является утверждение, что ты должен работать в FaceGoogTwitZon. Ты просто сам выбираешь работать ли на них.

Знаете… конечно, у вас своя ситуация, о которой я ровным счетом ничего не знаю. Я не говорю вам, что делать. Вы сами оцениваете свою способность рисковать. Но в чем я уверен, так это в том, что никто никогда никого не заставляет что-либо делать.

Когда мы думаем, что вариантов нет, это означает, что нам не нравятся варианты, которые мы видим, но это не означает, что выбора нет вообще.
Иногда требуется время, чтобы вырваться оттуда, где ты не можешь делать то, что правильно для тебя. Я провел кошмарные 2 года, размышляя, стоит ли уйти из секты. Это было сложнейшее решение в моей жизни. 1 августа 2004 года я дал себе обещание покинуть секту, если через год я всё ещё буду этого хотеть. Этот последний год прошел в мучениях. Каждый божий день я повторял себе, что хочу этого.
1 августа 2005 я покинул церковь Gospel Assembly и никогда не возвращался.

Мы все делаем, что можем, в заданных условиях, но если тебе не нравится то, как развивается отрасль высоких технологий, а эта статья добавит тебе смелости сделать то, что тебе кажется правильным для себя, общества и мира, - это бОльшее, на что я мог рассчитывать.

«Делай, все, что от тебя зависит, пока не поймешь, как делать лучше. Тогда делай, как лучше.»

– Майя Анжелу

Я считаю, что мы можем создавать только такие технологии, которые настолько же человечны, как мы сами.