Eva PenzeyMoog ile Çarpıcı Podcast Bölüm 41: Güvenlik İçin Tasarlamak

Bu makale, dünyanın her yerinden inanılmaz yeteneklerden oluşan çeşitli bir grup olan Netlify'daki sevgili arkadaşlarımız tarafından desteklendi ve web geliştiricileri için üretkenliği artıran bir platform sunuyor. Teşekkür ederim!

Bu bölümde, güvenlik için tasarım yapmaktan bahsediyoruz. Tasarımlarımızda savunmasız kullanıcıları dikkate almak ne anlama geliyor? Drew McLellan öğrenmek için uzman Eva PenzeyMoog ile konuşuyor.

Notları göster

• A Book Apart'tan Güvenlik İçin Tasarım
• Kapsayıcı Güvenlik Projesi
• Twitter'da Eva
• Eva'nın kişisel sitesi

Haftalık güncelleme

• Zara Cooper tarafından yazılan Angular 11, Commerce Layer ve Paypal ile E-Ticaret Sitesi Nasıl Kurulur
• Refactoring CSS: Adrian Bece tarafından yazılan Strateji, Regresyon Testi ve Bakım
• Callum Hart tarafından yazılmış Esnek JavaScript Kullanıcı Arabirimleri Nasıl Oluşturulur
• Arihant Verma tarafından yazılan React Children ve Iteration Methods
• Sinir bozucu Tasarım Modelleri: Vitaly Friedman tarafından yazılmış Devre Dışı Düğmeler

Transcript

Drew McLellan: The Inclusive Safety Project'in kurucusu ve A Book Apart'tan bu ay çıkacak olan Design For Safety kitabının yazarıdır. Özel yazılımlar tasarlayıp oluşturduğu ve güvenli ve kapsayıcı tasarım stratejisi konusunda danışmanlık yaptığı 8th Light'ta Baş Tasarımcıdır. Savunmasızları korumak için teknoloji tasarlama konusunda uzman olduğunu biliyoruz, ancak bir forklift kamyonunda yapılan en çok donut için uluslararası rekor sahibi olduğunu biliyor muydunuz? Ezici dostlarım, lütfen hoş geldiniz Eva PenzeyMoog. Merhaba Eva, nasılsın?

Eva PenzeyMoog: Eziyorum .

Drew: Bunu duymak güzel. Bugün sizinle, hassas kullanıcıların güvenliğini göz önünde bulundurarak ürün ve deneyim tasarlama ilkeleri hakkında konuşmak istedim. Dokunabileceğimiz belirli konular için bir tür tetikleyici uyarı vermek en baştan adil olur mu?

Eva: Kesinlikle, evet. Bunu gündeme getirdiğin için teşekkürler. Aile içi şiddetten, ayrıca muhtemelen bazı yaşlı istismarı ve çocuk istismarından açıkça bahsedilmesi durumunda kesinlikle uyarı tetikleyin.

Duru: Bu önemli. Özgür hisset. Bu sorunlardan herhangi birini endişelendiriyorsanız, sizin için tetikleyici olabilir. Onları atlamaktan çekinmeyin. Bir sonraki bölümde görüşürüz. Konuşmayı bizim için çerçevele, Eva. Güvenlik İçin Tasarım hakkında konuşurken, ne tür güvenlik sorunlarından bahsediyoruz? Kendi kendini süren arabalar için arayüzlerden bahsetmiyoruz. Bu tür bir güvenlik değil, değil mi?

Eva: Doğru, aynen. Evet. Güvenlikten bahsettiğimde, gerçekten kişilerarası güvenlikten, kullanıcıların ürünlerimizi kişilerarası bir şekilde birbirine zarar vermek için silah haline getirme yollarından bahsediyorum. Birbirini tanıyan, birlikte yaşayan insanlar, romantik partnerlerden çok sayıda aile içi şiddet, aynı zamanda ebeveynler ve çocuklar. Ayrıca gözetim alanında biraz daha işveren ve çalışan var. Ama bahsettiğim güvenlik açısından gerekli olan içsel kişisel gerçek ilişki var, evet, internette anonim biri veya verilerinizi almaya çalışan anonim bir varlık, bunun gibi şeyler.

Drew: Sorunlar bu kadar basit olabilir mi? Farklı kullanıcıların birbirlerine doğrudan mesaj gönderebildiği sosyal ağlarda gördüğünüz her gün ve bunun insanların sohbeti çevrimdışına almalarını sağlamak için nasıl yardımcı küçük bir araç olması gerektiğini düşünüyorum. veya halk dışında. Ancak bu tür şeyler, doğru güvenceler olmadan, bir tür kontrolün kötüye kullanılması için bir vektör olabilir.

Eva: Evet, kesinlikle. Kesinlikle, kullanıcıların birbirlerine herhangi bir tür metin göndermesine izin verdiğinizde, kötüye kullanım olasılığı vardır. Facebook mesajlaşması, bu biraz daha bariz ve bence… Şey, umarım bazı mesajları görmek veya birisinin sizinle iletişime geçmesine izin vermek istemediğinizi fark edecekleri bazı güvenlik önlemleri vardır. Ancak araştırma yaparken karşılaştığım gerçekten ilginç ve alakalı olan, Venmo gibi para paylaşmanıza izin veren birçok farklı bankacılık uygulaması veya hizmeti. Genellikle bir mesaj için bir boşluk vardır. En azından Venmo ile gerekli.

Eva: Bazı bankalar isteğe bağlıdır, ancak insanlar birine bir peni gönderecek ve ardından küfürlü bir mesaj veya gerçekten zararlı, korkutucu veya tehdit edici bir şey alacak ve bu mesajları alan kullanıcının bunu işaretlemesinin veya demesinin gerçekten bir yolu yok, "Bu kullanıcıyı engellemek istiyorum, çünkü neden birinin sizden para göndermesini durdurmak istiyorsunuz?" Bu, tasarımcının, istismarcıların her zaman böyle şeyler yapmanın yollarını aradıklarını düşünmediğini düşündüğüm bir durum. Çok yaratıcılar ve tasarımda dikkate alınmadı.

Drew: Sıklıkla her şeyin kullanılmak üzere tasarlandığı şekilde kullanıldığı ve deneyimin sorunsuz geçtiği mutlu yolu tasarlamaktan bahsediyoruz. Sonra mühendisler olarak, doğrulamanın başarısız olması veya API'lerin çalışmaması açısından işlerin nasıl ters gidebileceğini düşünüyoruz. Ama emin değilim… Bir endüstri olarak, konu kullanıcılarımızın güvenliğini göz önünde bulundurduğumuzda, teknolojilerin suistimal edilebileceği yollar konusunda büyük bir kör noktamız var mı?

Eva: Evet. Kesinlikle dev bir kör nokta olduğunu düşünüyorum. İnsanlar, bahsettiğim gibi, sizi Twitter'da taciz eden anonim kişinin bu tür çeşitli tehdit modellerine, bir bankacılık şirketinin verilerine girmeye çalışan farklı kuruluşlara, bunun gibi şeylere çok aşinadır. Ama biz buna aile içi şiddet tehdidi modeli diyoruz, süper farklı ve çoğu insanın düşünmediği bir model ve pandemi konferansları durdurmadan önceki zamanlarda aile içi şiddete karşı tasarım yaptığım konuşmamı yaptığımda her zaman geribildirim buydu. . Geri bildirim hep böyleydi, insanlar “Bunu hiç duymamıştım. Hiç bir fikrim yoktu." Konuşmamın, kitabımın ve genel olarak çalışmamın amacı bu, insanların bunun ne olduğunu ve bu konuda ne yapmaları gerektiğini anlamalarına yardımcı olmak çünkü bu çok büyük bir kör nokta.

Drew: Bence bir eğilimimiz var ve açıkçası her kullanıcının bizim gibi olduğunu varsaymak tehlikeli. Tıpkı hizmeti veya ürünü inşa eden insanlar gibi, tıpkı askerlerimiz, arkadaşlarımız, ailemiz ve tanıdığımız insanlar gibi ve herkesin istikrarlı bir ev durumunda olduğunu ve hizmetlerinin tam mülkiyetine veya kontrolüne sahip olduğunu varsaymak gibi. ve cihazlar. Bu her zaman böyle olmaz, değil mi?

Eva: Evet, kesinlikle. Kesinlikle her zaman böyle değil. Arkadaşlarımıza ve ailemize bakıp herkesin iyi bir ilişki içinde olduğunu düşünebiliriz, ancak bulduğum bir şey, aile içi şiddete maruz kalan çoğu insanın kesinlikle hayatındaki herkese tam olarak bunu söyleyip bağırmadığıdır. çatılar. Çoğu insan, sadece istatistiklere dayanarak, bu çok yaygın. Muhtemelen bu durumda olan veya şu anda bu durumda olan birini tanıyorsunuzdur ve gerçekten bunun hakkında konuşmuyorlar veya belki de davranışın tüm boyutunu paylaşmıyorlar.

Eva: Birçok yönden, bunun insanların işyerinde gerçekten düşünmediği bir şey çünkü toplumda ve genel olarak hayatta düşündüğümüz bir şey değil ve bunu iş yerimizde yeniden üretiyoruz. Çalışmam, bunun hakkında biraz daha açık konuşmamızı sağlamaya çalışıyor.

Drew: Bu düşünceler söz konusu olduğunda düşünmemiz gereken şeylerden bazıları nelerdir? Bir başkasının hesabınıza ne zaman erişebileceğini veya bir iş ortağının şifrenizi bilip içeri girebileceğini düşündüğünüzde, ürünlerin tek bir kişi tarafından kontrol edilmek üzere tasarlandığını düşünürdünüz, ancak şimdi belki de kötü niyetli biri hesabınıza erişiyor. Ne tür düşünceler var?

Eva: Evet. Pek çok farklı şey var, ama bu gerçekten büyük bir tane var… Yeni kitabımdaki üç ana bölüm, bunun olduğu üç büyük farklı alana odaklanıyor ve az önce bahsettiğiniz şey, bunlardan birinin odak noktası. birden fazla kişi için tasarlanmış ürünlerle ilgili kontrol ve güç sorunları hakkında. Paylaşılan bir banka hesabı gibi şeyler, Netflix veya Spotify gibi şeyler, her türden farklı ev cihazları, Nesnelerin İnterneti cihazları gibi görünüşte birden çok kişiye yönelik şeyler. Ancak herkesin, etrafındaki insanlar üzerinde güç ve kontrol sağlamanın başka bir yolunu aramayan saygılı bir insan olduğu varsayımı var.

Eva: Birçok ortak banka hesabı veya ortak kredi kartı hizmeti gibi şeyler ortak bir hesap gibi görünüyor, ancak gerçekte bir kişinin daha fazla gücü var. Örneğin, bu benim başıma geldi ve gerçekten sinir bozucuydu çünkü evliliğimdeki mali konuların çoğunu ben hallediyorum. Ancak yıllar önce ilk ortak banka hesabımızı oluşturduğumuzda, kocamı birincil kullanıcı olarak belirlediler, bu da temel olarak bir güvenlik testi oluşturmak için kullanılan onun kamuya açık verileri olduğu anlamına geliyordu. Yeni bir Wi-Fi ağından bankamıza girdiğimde, çocukken bu sokaklardan hangisinde yaşıyordunuz diye sormam gerekiyor. Aslında çoğunlukla… Bazılarına cevap verebilirim.

Eva: California'da hiç yaşamadığını biliyorum ama birçoğu gerçekten çok iyi ve uzun süredir birlikte olmamıza rağmen ona sormak zorundayım. Birini dışarıda tutmakta oldukça etkilidirler. Ama bunun ortak bir hesap olması gerekiyormuş gibi, neden aslında… Aslında sadece onun için benim de erişebildiğim bir hesap. Bununla ilgili pek çok sorun, birinin daha fazla kontrole sahip olmasına izin veriyor çünkü bana cevapları veremiyor ve o zaman bankayı aramak zorunda kalmadan veya bir şeyden geçmek zorunda kalmadan finansmanımıza erişemeyecektim. farklı süreç. Evet. Kontrolle ilgili birçok farklı sorun.

Eva: Ne zaman, birden fazla kullanıcıyı içeren bir ürün tasarlasanız, bir kullanıcının bunu başka bir kişiyi kontrol etmek için nasıl kullanacağını ve sonra buna nasıl bazı güvenceler koyabiliriz, ya da öyle yapalım. bir kişinin kontrolü yoktur. Bu mümkün değilse, en azından diğer kişinin neler olduğunu tam olarak anladığından ve gücü nasıl yeniden kazanacağını tam olarak bildiğinden nasıl emin olabiliriz? Onlara arayabilecekleri bir numara, değiştirebilecekleri bir ayar verebilir miyiz? Her ne ise, her şey biraz karmaşıklaşıyor.

Eva: Kitapta bunun pratikte gerçekte nasıl göründüğüne dair bütün bir sürecim var, sadece aile içi şiddeti düşünmekten veya sadece kontrolün kimde olduğunu düşünmekten biraz daha spesifik bir şey. Bu tür tavsiyeleri çok yararlı bulmuyorum. Tasarımcıların bunlardan bazılarını elde etmek için mevcut tasarım süreçlerinin üzerine koyabilecekleri çok kapsamlı bir sürecim var.

Drew: Sanırım, bu hesapların olduğu yer… Hesap sahibi olmak çok sıradan bir kavram. Temel yapı taşı olan ürünler veya hizmetler oluşturuyoruz, tamam, bir kullanıcı hesabımız var. Bunu kurarken ve hesabın hesaptan sorumlu kişilerden farklı olduğunu düşünürken muhtemelen bu tür konular hakkında gerçekten çok yakından düşünmüyoruz bile? Genellikle tek bir varlık olarak kabul edilirler ve daha sonra ortak hesaplar ve bu tür şeyler oluşturmak için diğer varlıkları buna bağlamanız gerekir. Ama iki kişi farklı yollara giderse bu hesaba ne olacağı konusunu da düşünürsek, bu gelecekte nasıl bölünebilir? Bu en başından beri düşünmemiz gereken bir şey mi?

Eva: Evet, kesinlikle. Getirdiğin gerçekten iyi bir nokta. Sanırım gerçekten güçlü hissettiğim şeylerden biri, tasarımımızda farklı istismar türlerinden kurtulanları merkeze aldığımızda, sonunda herkes için daha iyi ürünler üretiyoruz. Aile içi şiddet ortamlarında gerçekten yaygın olan özellikle finansal istismar unsuru hakkında oldukça fazla sayıda insanla röportaj yaptım. İstatistik, aile içi şiddet ilişkisi yaşayan insanların %99'u, gerçekten yaygın olan bazı finansal istismar unsurları var. Ama aynı zamanda eşini trajik bir şekilde kaybetmiş, bir kişi ölmüş ve ortak bir hesapları olan bazı insanlarla röportaj yaptım.

Eva: Bu güzel gibi… Bu ne yazık ki çok yaygın bir senaryo, ancak bu ürünlerin birçoğunun üstesinden gelmek için tasarlandığı bir şey değil ve paylaşılan bir hesap veya bunun gibi bir şey üzerinde tam kontrole sahip olmak yıllar alabilir… Büyükannem öldüğünde çok ileri görüşlüydü ve babama her şeye erişim izni vermişti. Ancak bununla bile, her şeyi yoluna koyması uzun zaman aldı çünkü bu ürünler böyle şeylerle başa çıkmak için tasarlanmamıştı. Ama hayatta kalanları merkeze alırsak ve evet, iki insan ayrıldığında nasıl görünür ve bunu etkili bir şekilde halledebilirsek, bu sonuçta diğer durumlarda bir grup insana yardımcı olacaktır.

Drew: Alışma süreci, yeni hesaplar oluşturma ve insanları bir ürüne dahil etme hakkında çok düşünüyoruz ve sonra ne şekilde olursa olsun ayrıldıklarında ne olacağını, ne yazık ki ölsünler ya da bu nasıl sonuçlanıyor, düşünmeyi unutuyoruz. sürecin diğer ucu. Bence bu gerçekten fayda sağlayabileceği dikkati çekmeyen bir şey.

Eva: Evet.

Drew: Ceplerimizde telefon taşıyoruz ve bunlar çok kişisel cihazlardır ve genellikle bilgiye, finansa ve iletişime erişimimizin anahtarıdırlar. Olumsuz bir durumda, bu kolayca olabilir… Bu kadar kişisel bir cihaz olması, kontrol ve istismar için bir vektör haline gelebilir. Konum servisleri gibi şeyleri düşünüyorum, Apple'ın Find My gibi servisleri, okul çağındaki çocuklarınız varsa harikadır ve nerede olduklarını kontrol edebilir ve nerede olduklarını görebilir, olmaları gereken yerde olduklarını görebilir, güvende olduklarını görebilirsiniz. . Birçok yönden bir güvenlik özelliğidir, ancak bu özellik altüst edilebilir, değil mi?

Eva: Evet, kesinlikle. Evet, bunu gündeme getirmenize sevindim çünkü bu ürünlerin çoğu çocuklar için güvenlik özellikleri. Evet, elbette ebeveynler çocuklarının nerede olduğunu bilmek isterler, güvende olduklarından emin olmak isterler ve bu gerçekten etkili bir araç olabilir. Bu ürünleri aşırı kullanan ebeveynlerle ilgili birçok sorun olduğunu düşünüyorum. Hala ebeveynleri tarafından kontrol edilen ve kampüs dışındaki bir partiye giderlerse neden yurt odanızda değilsiniz gibi bir çağrı alacak olan bazı üniversite öğrencilerine rastladım. Bunun gibi şeyler. Fazla gelebilir. Ama evet, çoğunlukla, bunlar harika ürünler. Ancak birçok insan, konumlarının izlenmesine rıza göstermeyen yetişkinleri izlemek için bunları kötüye kullanır ve çoğu zaman onlar da…

Eva: Google Haritalar'da olduğu gibi servise girmeniz gerekiyor, örneğin konum paylaşımı. Biriyle paylaştığınızı görmek için içine girmelisiniz. Uyarı yok. Find My ile benzer. Konumu izlenen kullanıcı bir uyarı alır, ancak bir aile içi şiddet durumunda, istismarcının, uyarıyı görmeden önce kişinin telefonundan silmesi gerçekten kolaydır ve o zaman o kişinin gerçekten başka bir yolu yoktur. bunun olduğunu bile anlayacaktır. Bence bu, nihayetinde çocuklar için güvenlikle ilgili şeyler yaratırken istismar vakalarının dikkate alınmadığı bir şeye iyi bir örnek. Ama diğer ortamlarda onu çocuklar için değil de kullanacak tonlarca insan olduğunu fark etmeliyiz.

Drew: Sanırım bir ilişkide, belirli bir zamanda konumunuzun izlenmesine oldukça isteyerek izin verebilirsiniz ve sonra bunun devam ettiğini anlamayabilirsiniz ve bunun hala devam ettiğinin farkında olmayabilirsiniz ve siz farkında olmadan izleniyor.

Eva: Evet. Bu gerçekten dikkate alınması gereken önemli bir şey çünkü istismara dayalı ilişkilerde durum şöyle değil… İstismar çoğunlukla ilk günden başlamaz. Bu genellikle ilk başta gerçekten harika bir ilişkidir ve sonra yavaş yavaş farklı kontrol biçimleri sunarlar ve güç alırlar ve kişiyi destek ağlarından çıkarırlar ve bunların hepsi zamanla olur, genellikle yıllar içinde, çünkü bunu yapmaya yeni başladıysanız ilk buluşmada çoğu insan "Evet, hayır, çıktım" der. Ama bir kez bu sevgi dolu ilişki olduğunda, o kişiden öylece ayrılmak çok daha zor hale gelir.

Eva: Ama evet, çoğu zaman ilişkinin başında yapılması tamamen güvenli olan şeyler artık güvenli değil, ama kişi bu kişiyle konumunu paylaştığını çoktan unutmuş ve sonra yine iyi bir şey yok. hatırlatma yolu. Kredileri gibi bazı şeyler var, Google her 30 günde bir e-posta gönderiyor, ancak bazı insanlar onları aslında o kadar sık ​​almadıklarını söylüyor ve bazı insanlar alıyor. Tam olarak ne olduğundan emin değilim, ancak konumunuzu paylaştığınız tüm kişilerle birlikte bir özet e-posta gönderiyorlar, bu gerçekten harika.

Eva: Ama 30 günde çok fazla hasar verilebileceğini düşünüyorum. Bunun olduğunu size bildiren daha sık veya her yerde hazır bulunan bir şeyi veya daha sık meydana gelen bir şeyi tercih ederim, ardından kötüye kullananın bu bildirimi silmesini sağlar. Evet, bu gerçekten iyi bir nokta, bu rıza. Cinsel saldırı rıza uygulamalarından gelen pek çok şey var. Bence teknoloji için çok fazla alaka var. Geçmişte bir şeye rıza göstermiş olmanız, ona şimdi veya gelecekte rıza gösterdiğiniz anlamına gelmez. Ama teknolojide, "Pekala, beş yıl önce rıza gösterdiler, yani bu rıza, hala geçerli" gibiyiz ve gerçekten durum böyle değil. Daha sonra tekrar onaylarını almamız gerekiyor.

Drew: Evet, her türlü zorluğu beraberinde getiriyor, değil mi? Bu şeylerin nasıl tasarlandığı konusunda, çünkü bir ürünün tasarımına kullanışlı olmayacak kadar çok engel koymak istemezsiniz. Veya bir çocuğu takip ettiğiniz ve o gün gerçekten yeniden rıza göstermedikleri ve birdenbire kaybolduğu ve hizmeti etkinleştirmediği bir durumda. Ancak yine de, bu rızanın yalnızca gerçekten verildiği sürece devam ettiğinden emin olun. Paylaşılan bir belgede, Google Dokümanlar veya her neyse, o anda o belgeye kimin baktığını görmek için yeterince kolay olduğunu düşünüyorum, tüm simgeler görünür, eğer… Orada olan tüm farklı kullanıcıların avatarları ve erişim sağlamak. İnsanlar konumunuza erişirken bu tür çözümlerin eşit derecede işe yarayacağını mı düşündünüz?

Eva: Evet, kesinlikle. Evet, yapışkan oluyor. Bu şeylerle ilgili çok basit, kolay çözümler yok ve evet, istediğiniz gibi şeyler… Belki sekiz yaşındaki çocuğunuzun her gün rıza vermesine izin vermek iyi bir fikir değil çünkü ya bir gün "Hayır" derler ya da yanlışlıkla hayır derler ya da her neyse, ve sonra aniden onları bulamıyorsunuz. Evet, bu gerçek bir senaryo. Sanırım bu tür şeylerden bazılarında “Eh, bu yapım olmamalı ya da her gün onay almalısın” demenin gerçekçi olacağını düşünmüyorum.

Eva: Ama bu durumlarda, bu kişiye, bu diğer kullanıcının bu konuda yapabilecekleri pek bir şey olmasa bile konumlarını görebileceğini söylemek gibi yapabileceğiniz şeyler var. En azından onlara neler olduğunu net bir şekilde anlamaları için bu bilgiyi vermek ve daha sonra bu istismarcı ilişki içindeyse kendilerini güvende tutmak için harekete geçebilmek gerçekten faydalı olacaktır. Belki şimdi biliyorlar, tamam, öğle yemeği saatinde ofisten çıktığımda, ortağımın onaylamadığı arkadaşımı görmek için telefonumu almayacağım çünkü her zaman ayrılmamı çok savunuyor. telefonumu getirirsem bir yere gittiğimi anlardı.

Eva: Ama telefonumu ofiste tutarsam bilmeyecek. Bu tür bilinçli kararlar verebilme. Konum paylaşımını mutlaka sonlandıramıyor olsanız bile, özellikli ürünün temel işlevselliğini korurken kullanıcıları güvende tutacak yapabileceğimiz kesinlikle başka şeyler var.

Duru: Evet. Tasarım kararları geliyor, değil mi? Ve zor sorunlara çözümler bulmak, ama önce sorunun orada olduğunu ve çözülmesi gerektiğini anlamak, bence bu konuşma, şeylerin farklı şekillerde kullanıldığını anlamak için bu kadar önemli. Giderek artan bir şekilde, içinde mikrofon ve kamera bulunan cihazlarımız var. Evlerimizde ve kapı zillerimizde çok sayıda gözetleme kameramız var ve gizli gözetleme artık sadece casus filmlerinden ve polis şovlarından bir şey değil, değil mi?

Eva: Evet. Ah evet. Bu çok büyük bir problem. Bu konuda çok güçlü hislerim var ve birçok insanın gerçekten bu cihazlarla ilgilendiğini biliyorum ve bence bu tamamen iyi. Gözetim için çok fazla kötüye kullanıldıklarını düşünüyorum. Bence eşler ve aile fertleri çok ama aynı zamanda çok… İşte bence çocuklarla bu konuya girme, en azından benim için, çocukların bile bazı mahremiyet hakları olduğu biraz daha netleşiyor ve özellikle Gençlere baktığınızda çok daha fazla bağımsızlığa ihtiyaçları var ve onların alana ihtiyaçları var ve kelimenin tam anlamıyla bağımsızlık etrafında dönen beyin gelişimi olayları var.

Eva: Bence çocuklarınızın çevrimiçi ortamda güvende olmalarına ve iyi kararlar almalarına yardımcı olmanın ve ayrıca bazen onları sürekli izlediğiniz veya sürekli olarak kendinizi onların hayatlarına çeşitli şekillerde enjekte ettiğiniz bir şey olmadan ne yaptıklarını kontrol etmenin yolları var. istemediklerini. Ama evet, farklı gözetleme cihazlarının bolluğu kontrolden çıktı ve insanlar bunları her zaman gizlice birbirlerini izlemek veya açıkça görmemek için kullanıyorlar. Bazen, "Evet, seni izliyorum. Bu konuda ne yapacaksın? Yapamazsınız çünkü gücümü ve üzerinizdeki kontrolü elimde tutmak için şiddet kullanmayı seçtiğim bu ilişki içindeyiz.”

Eva: Gerçekten büyük bir sorun haline geliyor. Çokça karşılaştığım bir şey insanlar… İstismarcının mağduru destek ağlarından izole etmesinin bir yolu daha oluyor. Arkadaşınızla, kardeşinizle veya terapistinizle özel bir telefon görüşmesi yapamazsınız. Aniden, evinizde gerçekten özel bir alan olan hiçbir yer yok, bu da insanların evde kalmaya zorlandığı pandemi sırasında gerçekten büyük bir sorun oldu. Aile içi şiddette çok büyük bir artışın yanı sıra teknolojinin aile içi şiddeti kolaylaştırdığını gördük çünkü istismarcıların bunları nasıl yapacaklarını bulmak için daha fazla zamanları oldu ve kontrol için kablolamaları gereken çok daha küçük bir alan. Bir çok insan bunu yapıyor. Gerçekten büyük bir sorun oldu.

Drew: Bu tür ürünlerin, güvenlik kameralarının ve sizin sahip olduğunuz şeylerin yapımcılarının, “Biz burada sadece alet yapıyoruz. Nasıl kullanıldıklarına dair herhangi bir sorumluluğumuz yoktur. Bu konuda bir şey yapamayız.” Ancak, evet, bu araçların nasıl kullanıldığı konusunda bir sorumlulukları olduğunu iddia eder misiniz?

Eva: Evet, yapardım. Her şeyden önce, diyen birine, “Bir teknoloji şirketinde çalışan, kapitalist para kazanan kişi olmadan önce insansın. Siz bir insansınız ve ürünleriniz insanları etkiliyor ve bundan siz sorumlusunuz.” Söyleyeceğim ikinci şey ise, kullanıcılarımızdan sadece daha yüksek düzeyde bir teknoloji okuryazarlığı talep etmenin gerçekten sorunlu bir zihniyet olduğudur, çünkü teknolojide çalışan bizler için "Pekala, insanların daha fazla öğrenmesi gerekiyor" demek kolaydır. hakkında. Birisi ürünümüzün nasıl kullanıldığını anlamazsa sorumlu değiliz.”

Eva: Ama insanların çoğu teknolojide çalışmıyor ve hala, açıkçası, teknolojide çalışmayan, gerçekten çok sayıda gerçekten teknoloji meraklısı insanlar. Ancak insanların sahip oldukları her bir uygulamanın, telefonlarında veya dizüstü bilgisayarlarında kullandıkları her şeyin, evlerinde bulunan her bir cihazın tam olarak nasıl olduğunu anlamalarını, her bir özelliği anlamalarını ve bunların nasıl olabileceğini belirlemelerini talep etmek. Onlara karşı kullanıldığında, bu çok büyük bir yük. Sadece bir ürününüz hakkında düşünüyorsanız, ah, şey, elbette, insanlar bunu anlamak için zaman ayırmalı.

Eva: Ama anlaması tehlikeli bir durumdan geçen insanlara sorumluluk yüklediğimiz düzinelerce üründen bahsediyoruz ki bu çok gerçekçi ve oldukça insanlık dışı, özellikle de istismar, gözetleme ve bu farklı şeylerin ne işe yaradığını düşünürsek sürekli tehdit altındaysanız ve bu hayatta kalma modundaysanız beyninize. Beyniniz, anlamaya, bu uygulamaya bakma ve kocamın bunu beni izlemek, kontrol etmek ya da her neyse onu nasıl kullandığını belirlemeye çalışmak üzerinde tam yönetici işlevine sahip olmayacak. Bunun gerçekten, dürüst olmak gerekirse, berbat bir zihniyet olduğunu ve insanların ürünlerimizi nasıl kullandığından sorumlu olduğumuzu söyleyebilirim.

Drew: Çoğu insanın mikrodalga fırınlarındaki bir veya iki düğmeden fazlasını anlamadığını düşündüğünüzde, temas ettiğimiz tüm farklı uygulama ve hizmetlerin yeteneklerini ve işleyişini nasıl anlamamız beklenebilir?

Eva: Kesinlikle. Evet.

Drew: Ürün ve hizmet tasarlamaya gelince, düz beyaz İngilizce konuşan bir erkek olarak, toplumun bana sağladığı ayrıcalıklı konum sayesinde büyük bir kör noktam olduğunu hissediyorum ve kendimi çok saf hissediyorum ve bunun olabileceğinin farkındayım. yaptığım şeylerde sorunlu tasarım seçimlerine yol açar. Bu kör noktaları açığa çıkardığımızdan ve kendi deneyim alanımızın dışına çıkmak ve daha fazla senaryo dahil etmek için elimizden gelenin en iyisini yaptığımızdan emin olmak için atabileceğimiz adımlar ve takip edebileceğimiz bir süreç var mı?

Eva: Evet, kesinlikle. Bu konuda çok fazla düşüncem var. Sanırım birkaç şey var. İlk olarak, kör noktalarımız hakkında kendimizi eğitmekten hepimiz sorumluyuz. Herkesin kör noktaları vardır. Bence cis beyaz bir erkeğin diğer gruplardan daha fazla kör noktası olabilir ama bu, kör noktaları olmayacak bir grup gibi değil. Herkeste var. Teknolojimizin kötüye kullanımının farklı yolları hakkında kendimizi eğitmeyi düşünüyorum. Bence bundan daha fazlası… Açıkçası, kişilerarası güvenlik üzerinde çalıştığım şey. Ama aynı zamanda sürekli öğrenmeye çalıştığım ve üzerinde çalıştığım teknolojinin bu farklı şeyleri sürdürmeyeceğinden nasıl emin olacağımı bulmaya çalıştığım başka şeyler de var.

Eva: Sara Wachter-Boettcher'ın Design For Real Life kitabını gerçekten seviyorum ve Eric Meyer kapsayıcı tasarım ve şefkatli tasarım için harika. Ama aynı zamanda algoritmalar, ırkçılık, cinsiyetçilik ve algoritmalarla ilgili farklı konular hakkında da bir şeyler öğreniyorum. Göz önünde bulundurmamız gereken çok farklı şeyler var ve bence bu şeyleri öğrenmekten hepimiz sorumluyuz. O zaman, aynı zamanda, bir kez tanımladığınızda, bu şeylerden geçmiş insanların yaşanmış deneyimlerini getirmeyi düşünüyorum, tamam, ırkçılık bu ürünle ilgili bir sorun olacak ve bununla uğraştığımızdan emin olmalıyız ve bunu engellemeye çalışmak ve kesinlikle insanlara ırkçılığı ya da neyiniz olduğunu bildirmesi için yollar vermek.

Eva: Bunlardan biri, kitabımda verdiğim örnek, Airbnb'nin ırkçılık ve ırkçı ev sahipleri ile ilgili birçok sorunu var. Sadece sahip olup olmadığınızla ilgili bir çalışma bile… Fotoğrafınız siyah bir kişiye aitse, reddedileceksiniz. Konaklama rezervasyonu talebiniz, fotoğrafınızda beyaz bir kişi varsa daha sık reddedilecektir. Beyaz bir insan olduğumu düşünüyorum, bu sadece gidip bir şeyler öğrenebileceğimi ve sonra bu konuda bir otorite olarak konuşabileceğimi sanmıyorum. Bence bu durumda, sizi bilgilendirebilecek o yaşanmış deneyime sahip birini getirmeniz gerekiyor, bu yüzden siyah bir tasarımcı danışmanı işe almalısınız çünkü açıkçası biliyoruz ki aslında teknolojide büyük bir çeşitlilik olmadığını biliyoruz.

Eva: İdeal olarak, ekibinizde bununla konuşabilecek kişilerin olması gerekirdi, ama bence… Ama sonrası çok karmaşık. Takım arkadaşlarımızdan bu tür bir emek talep ediyor muyuz? Bu da sorunlu olabilir. Takımınızdaki siyah kişi muhtemelen birçok farklı şeyle karşı karşıya kalacak ve sonra beyazların "Hey, bana ırkınız yüzünden yaşadığınız travmatik deneyimler hakkında konuşun" demesini sağlayacak. Muhtemelen bu tür bir yükü insanlara yüklememeliyiz, tabii eğer…

Eva: Pek çok insan bunu isteyerek gündeme getirecek ve bunun hakkında konuşacak ve ben bazı şeyler hakkında konuşacağım, bir kadın olarak deneyimlerim ama belki de bu her gün yapmak istediğim bir şey değil. Bu durumda, bunu iş için yapan insanları işe almak ve daha sonra insanlara yaşadıkları deneyimler için ödeme yapmak ve insanları bu bilgi ve bu yaşanmış deneyim için fiilen tazmin etmek açısından sömürücü olmaktan çıkarmak.

Duru: Evet. Farklı ekiplerin ürünler üzerinde çalışmasının ve her türden farklı deneyimler getirmesinin ne kadar önemli ve faydalı olduğunun gerçekten altını çizdiğini düşünüyorum.

Eva: Evet, kesinlikle.

Drew: Tasarım sürecinde kitabınızda ele aldığınız şeylerden biri, özelliklerinizi test etmenize yardımcı olmak için istismarcı ve hayatta kalan arketipleri yaratmaktır. Bize bu fikirden biraz bahseder misiniz?

Eva: Evet. Bu, insanların sorunun ne olduğunu çok net bir şekilde anlamalarına yardımcı olacak bir tür kişisel yapaylığa sahip olmak istemekten kaynaklandı. Bu, ekibin konuyla ilgili araştırma yapmasından ve kişilerarası güvenlik söz konusu olduğunda olası farklı sorunları belirlemesinden ve bunların ne olduğunu çok net bir şekilde ifade edebilmesinden sonra gelen bir şeydir. Ardından, ürününüzü zararı ne olursa olsun kullanmaya çalışan kişi olan istismarcı arketipini ve ardından o zararın kurbanı olacak olan hayatta kalan arketipini yaparsınız. Bunlarla ilgili önemli olan hedeflere sahip olmaktır. Tıpkı bir resim bulmanız gibi veya bir resme ihtiyacınız bile yok, ancak kötüye kullanımın ne olduğunu ve ardından kişinin hedeflerini ifade ediyor.

Eva: Onu takip etmek istediği için eski kız arkadaşının şu anda nerede yaşadığını öğrenmek isteyen biriyse, amacı onu takip etmektir. Sonra hayatta kalanın amacı… Üzgünüm, istismarcının amacı ürününüzü kullanmak olacaktır. Diyelim ki Strava, kitapta örnek olarak kullandığımlardan biri mesela. Eski kız arkadaşımın izini sürmek için Strava'yı kullanmak istiyorum ve sonra hayatta kalan arketip "Beni takip etmeye çalışan eski sevgilimden konumumu gizli tutmak istiyorum" diyor. Ardından, tasarımınızın bir kısmını bilgilendirmeye yardımcı olmak ve hayatta kalan kişinin konum verileri hakkında, tüm mahremiyetlerini etkinleştirmiş olsalar bile, konumlarını bulmaya çalışan birinin kullanımına açık olan herhangi bir şey olup olmadığını görmek için ürününüzü test etmek için bu hedefleri kullanabilirsiniz. özellikleri?

Eva: Strava'yı örnek olarak kullanıyorum çünkü birkaç ay öncesine kadar bu yetenek vardı. Bir şey vardı ki, her şeyi gizli yapsanız bile, belirli bir süre boyunca uygulamayı kullanan başka birinin yakınında koşuyor veya egzersiz yapıyorsanız, ne kadar yakın olmanız gerektiği veya aynı şekilde ne kadar süre koşmanız gerektiği belirsizdir. sokak, bu diğer kişi olarak, onları antrenmanınızda görünmüş olarak etiketleyecektir. Bu, istismarcının hedeflerine ulaşabildiği bir örnek olurdu, eski sevgilisini bu şekilde bulabildi. O zaman bilirsiniz, tamam, buna karşı çalışmamız ve bu hedefin başarılı olmasını engellememiz gerekiyor.

Drew: Özellikle, her senaryoyu düşünemezsin. Bir istismarcının her koşulda ne yapmaya çalışacağını çözemezsiniz. But by covering some key apparent problems that could crop up, then I guess you're closing lots of doors for other lines of abuse that you haven't thought of.

Eva: Yes. Yeah, exactly. That brings up a really good other related point, which is that, yeah, you're probably not going to think of everything. Then having ways for users to report issues and then being the type of team and company that can take those criticisms or issues that users identify with some grace and quickly course correcting because there's always going to be things you don't think about and users are going to cover all sorts of things. I feel like this always happens. Being able to have a way to get that feedback and then to quickly course correct is also a really big part of the whole process of designing for safety.

Drew: Is there a process that would help you come up with these potential problems? Say you're designing a product that uses location data, what process would you go through to think of the different ways it could be abused? Is there anything that helps in that regard?

Eva: Yeah. This is something I get more in depth about in the book, but having some research around it first is the first thing. With location services is a pretty easy one, so to speak. There's so many documented issues with location services. There's also been academic studies done on this stuff, there's lots of literature out there that could help inform the issues that you're going to face. Then the other thing that I suggest that teams do is after doing this research is doing a brainstorm for novel of use cases that have not been covered elsewhere.

Eva: The way I usually do this is I have the team do a Black Mirror brainstorm. Let's make a Black Mirror episode. What's the worst, most ridiculous, just anything goes, worst case scenario for this product or feature that we're talking about? People usually come up with some really wild stuff and it's actually usually really fun. Then you say, “Okay, let's dial it back. Let's use this as inspiration for some more realistic issues that we might come across,” and then people are usually able to identify all sorts of things that their product might enable.

Drew: For people listening who feel like they would really love to champion this area of work within their organization, do you have any advice as to how they could go about doing that?

Eva: Yeah. There is a lot of stuff about this in the book, about integrating this into your practice and bringing it to your company. Advice for things like talking to a reluctant stakeholder whose only concern is, well, how much is this going to cost me? How much extra time is this going to take? Being able to give really explicit answers about things like that is really useful. Also, I have recordings of my conference talk which people usually say, “I had just had no idea that this was a thing.” You can help educate your team or your company.

Eva: I talked about this in the book too, honestly, it can be awkward and weird to bring this stuff up and just being mentally prepared for how it's going to feel to be like, “We should talk about domestic violence,” or, “We should talk about invasive child surveillance.” It can be really hard and just weird. One of the pieces of advice I give is for people to talk to a supportive coworker ahead of time, who can back them up if you're going to bring this up in a meeting and just help reduce the weirdness, and there are some other tactics in the book. But those are definitely the big ones.

Drew: I would normally ask at this point where our listeners should go to find out more about the topic. But I know that the answer is actually to go and read your book. We've only really just scratched the surface on what's covered in Design For Safety, which is out now, this August 2021 from A Book Apart. The book, for me, it's sometimes an uneasy read in terms of content, but it's superbly written and it really opened my eyes to a very important topic. One thing I really like about all the A Book Apart books is they're small and focused and they're easy to consume. I would really recommend that listeners check out the book if the topic is interesting to them.

Eva: Yeah, thanks for that. Theinclusivesafetyproject.com is the website I have to house all of this information. There's a lot of great resources in the back of the book for people who want to learn more. But if you just want something and more immediately, you can go to Theinclusivesafetyproject.com and there's a resources page there that has different sort of articles or studies to look at different people working in related spaces to follow on Twitter, books to read, things like that.

Duru: Doğru. I've been learning what it means to design for safety. What have you been learning about, Eva?

Eva: I have been learning about data. I'm reading a really interesting book called Living in Data by Jer Thorp, which I thought it was going to be all about different issues with big data, which is such a big thing but it's actually an extremely thoughtful, much more interesting approach to what it means to live in data and just how much data is taken from us every day and what's done with it and just data out there in the world. It's really interesting and important, and yeah, I would definitely recommend that book.

Drew: No, amazing. If you the listener would like to hear more from Eva, you can follow her on Twitter where she's @epenzeymoog, and you can find all her work linked from her website at evapenzeymoog.com. Design For Safety is published abookapart.com and is available now. Thanks for joining us today, Eva. Ayrılık sözleriniz var mı?

Eva: Please get vaccinated so that we can go back to normal.