Algorithms are pure math. A decision process in the form of a code. A series of experiences are used as inputs. When exposed to a situation or a problem they react in a certain way producing an output. In that sense, algorithms are just like us. We make decisions everyday based on our observations and interpretations, influenced by our interactions and experiences. Even though we don’t realize it, we feed technology with data. And that data helps technology shape the decisions it makes and the actions it takes. That’s the paradigm of our artificial intelligent world: we are biased algorithms, teaching and creating biased algorithms.
By believing technology is something inaccessible, outsourced and unreachable, we forget our responsibility. Algorithms are just numerical representation of who we are as a society. The project IN OUT wants to raise awareness to an urgent issue: we have responsibility on the consequences of our bias that are now embedded in machines. The more we learn how to teach them, the better will be the creation of a future. If the algorithm is a mirror, we have to take action on what we are reflecting.
Se as máquinas estão aprendendo, quem está ensinando?Algoritmos são pura matemática. Eles são processos de decisão traduzidos na forma de um código. Uma série de experiências é usada como input e, quando exposta a uma situação ou a um problema, reage de uma certa maneira, produzindo um output.Nesse sentido, eles não são diferentes de nós. Nós também fazemos observações e interpretações – coletamos dados. Nós também tomamos decisões de acordo com nossas interações e experiências.Mesmo quando não percebemos, alimentamos tecnologia com dados. São os dados que permitem que as máquinas tomem decisões e realizem ações.
Esse é o paradigma de nosso mundo artificialmente inteligente: somos algoritmos enviesados criando e treinando outros algoritmos enviesados.Quando acreditamos que tecnologia é algo neutro e inacessível, esquecemos nossa responsabilidade.Algoritmos são representações numéricas do que queremos ser como sociedade.O objetivo do projeto IN OUT é chamar atenção para uma questão importante: nossa responsabilidade pelas consequências dos vieses que estamos embutindo nos códigos que controlam nossos sistemas. Quanto mais aprendermos sobre como ensinar as máquinas, melhor será a futuro. Um algoritmo é um espelho. Você é responsável pelo que ele reflete.

For 6 days, a group of 12 professionals with diverse experiences worked together led by multidisciplinary designer Rogier Klomp in São Paulo.
<our mission=""></our>
To demystify algorithms showing they are as prone to bias and prejudice as we are. The outcome of this Mesa is this project, Bias in Bias out, which aims to raise awareness and inspire people on this matter.
<participants></participants>
Carol Leslie, Denis Burgierman, Fernanda Monteiro, Gil Bottari, João França, Hui Jin Park, Letícia Pozza, Lucas Terra, Luiz Braz, Michel Alcoforado, Renata Simões e Zé Porto.
<mesa&cadeira team=""></mesa&cadeira>
Valentina Ferrari, Juliana Cainelli and Giuliana Tatini.
<special thanks=""></special>
Rafael Bueno, Felipe Griebel, Beza Doces, Red Bull, Aperol e Isla Espaço Híbrido.
"Algorithms are opinions camouflaged in technology"
— Cathy O'Neil
