Karta e kreditit e Apple është duke u hetuar për diskriminim ndaj grave

Konsumatorët thonë se kartela ofron më pak kredi për gratë sesa burrat.

Karta e re e kreditit e Apple po hetohet nga rregullatorët financiarë pasi klientët u ankuan se algoritmet e huazimit të kartës së diskriminuar ndaj grave. Incidenti filloi kur zhvilluesi i softuerit David Heinemeier Hansson u ankua në Twitter se linja e kreditit e ofruar nga Apple Card i tij ishte 20 herë më e lartë se ajo që i ofrohej bashkëshortit të tij, edhe pse të dy dosjet kthyen taksat e përbashkëta dhe ai ka rezultatin më të keq të kredisë.

“@AppleCard është një program kaq seksi i ndyrë,” shkroi Hansson. “Unë dhe gruaja ime paraqitëm deklarata të përbashkëta tatimore, jetojmë në një shtet të pronës së komunitetit dhe kemi qenë të martuar për një kohë të gjatë. Megjithatë, algoritmi i kutisë së zezë të Apple mendon se meritoj 20x kufirin e kredisë që ajo bën. “

Pasi që ankesat e Hansson dolën virale, klientët e tjerë të Apple Card raportuan incidente të ngjashme. Bashkëthemeluesi i Apple, Steve Wozniak ishte në mesin e tyre, duke thënë se atij iu dha dhjetë herë kufiri i kredisë që i ofrohej gruas së tij. Wozniak i bëri thirrje qeverisë të hetojë funksionimin e algoritmeve të tilla të kutisë së zezë, për të cilën ekspertët thonë se shpesh janë diskriminues.

“Ne nuk kemi transparencë se si këto kompani vendosin dhe funksionojnë këto gjëra,” tha Wozniak në një intervistë. “Algos padyshim kanë të meta … Një numër i madh i njerëzve do të thoshin:” Ne e duam teknologjinë tonë, por nuk jemi më në kontroll. “Unë mendoj se është kështu.”

Në përgjigje të ankesave, Departamenti i Shërbimeve Financiare i Shtetit në New York (DFS) tha se do të hetojë kartën, e cila lëshohet nga gjigandi bankar Goldman Sachs.

“Çdo algoritëm që qëllimisht ose jo rezulton në trajtim diskriminues të grave ose ndonjë klase tjetër të mbrojtur shkel ligjin e Nju Jorkut,” i tha një zëdhënës i agjencisë New York Times. “DFS është i trazuar të mësojë për trajtim diskriminues të mundshëm në lidhje me vendimet e kufirit të kredisë, të raportuara nga një algoritëm i Apple Card, lëshuar nga Goldman Sachs, dhe Departamenti do të kryejë një hetim për të përcaktuar nëse ligji i Nju Jorkut është shkelur dhe të sigurojë të gjithë konsumatorët trajtohen në mënyrë të barabartë pavarësisht nga seksi. ”

Këto ankesa ushqehen në ndërgjegjësimin në rritje të publikut për algoritmet diskriminuese, të cilat gjithnjë e më shumë marrin vendime në fusha si kujdesi shëndetësor, punësimi dhe strehimi. Kompanitë dhe agjensitë qeveritare shpesh prezantojnë sisteme të tilla të automatizuara për të ulur kostot dhe për të trajtuar të dhëna komplekse, por për vite me radhë ekspertët kanë paralajmëruar se algoritme të tilla janë të errëta dhe të parregulluara, duke i koduar mendimet seksiste dhe raciste në një softuer të pa llogaritshëm.

Në rastin e Apple Card, ankesat kundër tij u përshkallëzuan kaq shpejt sepse zhvilluesi i saj David Hansson ka një vijim të madh në internet. Për shumicën e njerëzve që diskriminohen nga algoritmet e errëta, një përgjigje e tillë është e padëgjuar.

Kur Apple lëshoi ​​kartën e saj të kreditit në fillim të këtij viti, ajo mburrej se do të sillte thjeshtësinë dhe transparencën e produkteve të Apple në botën konfuze të financave. Përdorimi i Apple Card do të ishte i qetë dhe i qetë, tha Apple, duke çuar në “një jetë më të shëndetshme financiare”.