{"id":834,"date":"2023-01-05T10:58:00","date_gmt":"2023-01-05T10:58:00","guid":{"rendered":"https:\/\/www.provenir.com\/portuguese\/?p=834"},"modified":"2026-04-08T12:37:14","modified_gmt":"2026-04-08T12:37:14","slug":"explicabilidade-transparencia-modelos-complexos-ml","status":"publish","type":"post","link":"https:\/\/www.provenir.com\/pt\/explicabilidade-transparencia-modelos-complexos-ml\/","title":{"rendered":"Como impor restri\u00e7\u00f5es a modelos de decis\u00e3o de cr\u00e9dito com machine learning (ML)"},"content":{"rendered":"<h1>Como impor restri\u00e7\u00f5es a modelos de decis\u00e3o de cr\u00e9dito com machine learning (ML)<\/h1>\n<ul>\n<li>\n<\/li>\n<li>\n<\/li>\n<\/ul>\n<div>\n<p><strong>Giampaolo Levorato, Senior Data Scientist, Provenir &amp; Dr. Mark Thackham, Head of Data Science, Provenir<\/strong><\/p>\n<\/div>\n<div>Como obter explicabilidade e transpar\u00eancia com modelos complexos de ML<\/div>\n<div>\n<p>Um n\u00famero cada vez maior de financiadores tem adotado modelos avan\u00e7ados de aprendizagem de m\u00e1quina (ML) para decis\u00f5es de cr\u00e9dito. Os modelos de ML (como Random Forest, XGBoost, LightGBM e redes neurais) s\u00e3o mais preditivos e precisos quando comparados \u00e0 regress\u00e3o log\u00edstica utilizada como padr\u00e3o em an\u00e1lises de cr\u00e9dito tendo em vista sua capacidade de capturar rela\u00e7\u00f5es n\u00e3o lineares altamente complexas. Sem uma configura\u00e7\u00e3o cuidadosa durante o treinamento, contudo, tanto a explicabilidade quanto o poder de generaliza\u00e7\u00e3o do modelo podem ser afetados. Isso \u00e9 crucial, uma vez que os modelos de decis\u00e3o de cr\u00e9dito devem atender a dois crit\u00e9rios:<\/p>\n<ul>\n<li><strong>Explicabilidade<\/strong>: os mecanismos do modelo devem ser transparentes para os usu\u00e1rios e prover conclus\u00f5es acion\u00e1veis para clientes com cr\u00e9dito recusado; e\u00a0<\/li>\n<li><strong>Generaliza\u00e7\u00e3o<\/strong>: os modelos n\u00e3o devem sobreajustar os dados de treinamento e devem apresentar um alto poder de generaliza\u00e7\u00e3o, i.e., devem alcan\u00e7ar alta performance em novos dados (de produ\u00e7\u00e3o).<\/li>\n<\/ul>\n<p>Este artigo explica a import\u00e2ncia de se aplicar restri\u00e7\u00f5es monot\u00f4nicas e de intera\u00e7\u00e3o ao treinar modelos de ML a fim de atender a esses crit\u00e9rios.<\/p>\n<\/div>\n<div>Transpar\u00eancia e acionabilidade<\/div>\n<div>\n<p>Muitas jurisdi\u00e7\u00f5es exigem que os financiadores expliquem como e por que uma solicita\u00e7\u00e3o de cr\u00e9dito foi recusada, estipulando que os financiadores forne\u00e7am c\u00f3digos de a\u00e7\u00e3o adversa com os principais motivos da recusa. Explica\u00e7\u00f5es corretas sobre por que a previs\u00e3o de um modelo levou um financiador a recusar o cr\u00e9dito torna os modelos de ML transparentes (n\u00e3o h\u00e1 a imprecis\u00e3o de uma \u201ccaixa preta\u201d quanto aos mecanismos de previs\u00e3o do modelo) e acion\u00e1veis (o cr\u00e9dito recusado do cliente tem a\u00e7\u00f5es claras e tang\u00edveis sobre as medidas que podem ser tomadas para melhorar suas perspectivas de obter cr\u00e9dito). Vejamos um exemplo concreto de explicabilidade: se o atributo em um modelo cujo impacto mais negativo para quem tem cr\u00e9dito recusado for o \u201cn\u00famero de buscas de cr\u00e9dito nos \u00faltimos seis meses\u201d, ent\u00e3o o c\u00f3digo de a\u00e7\u00e3o adversa poderiaser \u201co n\u00famero de buscas de cr\u00e9dito nos \u00faltimos seis meses \u00e9 muito alto\u201d. Isso mostra transpar\u00eancia e indica uma a\u00e7\u00e3o clara para os clientes que, para melhorarem sua credibilidade, precisam reduzir suas buscas de cr\u00e9dito. Assim, os solicitantes podem se conscientizar mais facilmente dos fatores que os impedem de ter melhores pontua\u00e7\u00f5es e melhorar sua credibilidade.<\/p>\n<p>A transpar\u00eancia garante ainda aos financiadores que as decis\u00f5es de cr\u00e9dito sejam baseadas em atributos explic\u00e1veis e defens\u00e1veis e n\u00e3o usem atributos protegidos por lei como sexo, religi\u00e3o ou etnia.\u00a0<\/p>\n<p>H\u00e1 diversos m\u00e9todos de explicabilidade para interpretar decis\u00f5es de modelos complexos. Dois dos mais populares s\u00e3o:<\/p>\n<ol>\n<li>Local Interpretable Model-Agnostic Explanations (LIME)<\/li>\n<li>SHapley Additive exPlanation (SHAP)<\/li>\n<\/ol>\n<p>O LIME aproxima modelos complexos de ML com um modelo local mais simples e f\u00e1cil de explicar. Como o LIME utiliza um modelo proxy com foco no impacto local dos atributos, n\u00e3o se pode empreg\u00e1-lo na gera\u00e7\u00e3o de c\u00f3digos de a\u00e7\u00e3o adversa, os quais devem ser gerados com o modelo de ML adotado para decis\u00e3o de cr\u00e9dito (e n\u00e3o um proxy).<\/p>\n<p>O SHAPquantifica a contribui\u00e7\u00e3o de cada atributo para uma previs\u00e3o feita por um modelo de ML (atributos com maiores contribui\u00e7\u00f5es para a previs\u00e3o do modelo t\u00eam um SHAP superior), tornando as previs\u00f5es do modelo transparentes. Todavia, a transpar\u00eancia n\u00e3o leva diretamente \u00e0 a\u00e7\u00e3o necess\u00e1ria para uso em c\u00f3digos de a\u00e7\u00e3o adversa. Para usar os valores SHAP na deriva\u00e7\u00e3o de c\u00f3digos de a\u00e7\u00e3o adversa \u00e9 necess\u00e1rio impor as seguintes restri\u00e7\u00f5es ao treinamento do modelo:<\/p>\n<ol>\n<li>restri\u00e7\u00f5es de n\u00e3o-intera\u00e7\u00e3o e<\/li>\n<li>restri\u00e7\u00f5es de monotonicidade.<\/li>\n<\/ol>\n<p><strong>Por que as restri\u00e7\u00f5es do modelo s\u00e3o necess\u00e1rias?<\/strong><\/p>\n<p>Para entender a necessidade de tais restri\u00e7\u00f5es, \u00e9 \u00fatil observar um gr\u00e1fico de depend\u00eancia SHAP que mostra o efeito de um \u00fanico atributo nas previs\u00f5es feitas pelo modelo (o gr\u00e1fico abaixo foi produzido a partir de uma \u00e1rvore de decis\u00e3o com gradient boosting treinada em um conjunto de dados de risco de cr\u00e9dito com o objetivo de estimar a probabilidade de inadimpl\u00eancia dos solicitantes de empr\u00e9stimos).<\/p>\n<\/div>\n<div>\n<p>Os cart\u00f5es de cr\u00e9dito alternativos s\u00e3o cart\u00f5es projetados para consumidores rec\u00e9m-chegados ao cr\u00e9dito (NTC) com hist\u00f3rico de cr\u00e9dito reduzidos ou nulo, inclusive estudantes universit\u00e1rios, imigrantes e pessoas de baixa renda, para ajudar a criar cr\u00e9dito e melhorar a credibilidade. Diferentemente dos cart\u00f5es de cr\u00e9dito tradicionais, estes n\u00e3o requerem uma investiga\u00e7\u00e3o de cr\u00e9dito e, muitas vezes, v\u00eam acompanhados de recursos como educa\u00e7\u00e3o financeira, pagamentos autom\u00e1ticos e recompensas para ajudar os usu\u00e1rios a criar cr\u00e9dito e, ao mesmo tempo, promover o uso respons\u00e1vel do cart\u00e3o. Os cart\u00f5es de cr\u00e9dito alternativos podem ser um \u00f3timo ponto de entrada para os 1,4 bilh\u00e3o de adultos que n\u00e3o t\u00eam conta banc\u00e1ria em todo o mundo.<\/p>\n<p><strong>Por que s\u00e3o populares:<\/strong><\/p>\n<p>Os cart\u00f5es de cr\u00e9dito alternativos oferecem aos credores uma oportunidade de atrair novos usu\u00e1rios que normalmente n\u00e3o se qualificariam para os cart\u00f5es de cr\u00e9dito tradicionais devido a um hist\u00f3rico credit\u00edcio limitado ou inexistente ou baixo score de cr\u00e9dito. Ao oferecer cart\u00f5es que ensinam os usu\u00e1rios a construir cr\u00e9dito, com limites de gastos baixos e pagamentos autom\u00e1ticos, os credores podem ajudar os consumidores a estabelecer um bom cr\u00e9dito e criar um relacionamento com eles para futuros produtos financeiros.<\/p>\n<p><strong>Como oferec\u00ea-los:<\/strong><\/p>\n<p>Talvez n\u00e3o seja surpreendente o fato de que os dados alternativos sejam a chave para os cart\u00f5es de cr\u00e9dito alternativos. Dados alternativos referem-se a todas as informa\u00e7\u00f5es financeiras que n\u00e3o est\u00e3o inclu\u00eddas em um relat\u00f3rio de cr\u00e9dito, como contas de servi\u00e7os p\u00fablicos, pagamentos de aluguel, hist\u00f3rico de emprego e, \u00e0s vezes, at\u00e9 mesmo m\u00eddias sociais. Como esses cart\u00f5es s\u00e3o criados para consumidores sem os dados tradicionais dos bureaus, os credores podem criar seus pr\u00f3prios modelos de pontua\u00e7\u00e3o de cr\u00e9dito integrando uma grande quantidade de dados alternativos em seus motores de decis\u00e3o. Se voc\u00ea tem dados alternativos, voc\u00ea tem a base para cart\u00f5es de cr\u00e9dito alternativos.<\/p>\n<\/div>\n<p><img decoding=\"async\" src=\"\/pt\/wp-content\/uploads\/sites\/9\/2024\/10\/SHAP-dependence-plot-1.png\" alt=\"\"><\/p>\n<div>\n<p><em>Figura 1 &#8211; Gr\u00e1fico de depend\u00eancia SHAP para o Atributo 1<\/em><\/p>\n<p>A primeira observa\u00e7\u00e3o \u00e9 que o padr\u00e3o \u00e9 n\u00e3o monot\u00f4nico: \u00e0 medida que os valores do Atributo 1 aumentam, a qualidade de cr\u00e9dito melhora, at\u00e9 que se preveja uma deteriora\u00e7\u00e3o.<\/p>\n<p>A primeira a\u00e7\u00e3o necess\u00e1ria \u00e9 aplicar restri\u00e7\u00f5es de monotonicidade, que imp\u00f5em previs\u00f5es de modelo para aumentar ou diminuir monotonicamente em rela\u00e7\u00e3o a um atributo quando todos os outros atributos permanecem inalterados. No exemplo acima, valores mais altos do Atributo 1 correspondem a mais qualidade de cr\u00e9dito.\u00a0Desvios da monotonicidade (que podem ocorrer frequentemente quando as restri\u00e7\u00f5es de atributos monot\u00f4nicos n\u00e3o s\u00e3o aplicadas) raramente representam um padr\u00e3o genu\u00edno, e sim geralmente indicam um sobreajuste excessivo aos dados de treino, comprometendo o poder de generaliza\u00e7\u00e3o do modelo.<\/p>\n<p>A aplica\u00e7\u00e3o de restri\u00e7\u00f5es de monotonicidade n\u00e3o \u00e9 suficiente para que os valores SHAP retornem c\u00f3digos de a\u00e7\u00e3o adversa. De fato, os atributos podem ser correlacionados at\u00e9 certo ponto: quando os recursos interagem entre si em um modelo de ML, a previs\u00e3o n\u00e3o pode ser expressa como a soma dos efeitos dos atributos, porque o efeito de um atributo depende do valor de outros.<\/p>\n<p>O gr\u00e1fico de depend\u00eancia SHAP a seguir mostra como o efeito de Atributo 1 depende do Atributo 2: a intera\u00e7\u00e3o entre ambos aparece como um padr\u00e3o vertical distinto de colora\u00e7\u00e3o.<\/p>\n<\/div>\n<p><img decoding=\"async\" src=\"\/pt\/wp-content\/uploads\/sites\/9\/2024\/10\/SHAP-dependence-plot-showing-interaction-between-Feature1-and-Feature2-1.png\" alt=\"\"><\/p>\n<div>\n<p><em>Figura 2 &#8211; Gr\u00e1fico de depend\u00eancia SHAP mostrando intera\u00e7\u00e3o entre Atributo 1 e Atributo 2<\/em><\/p>\n<p>A segunda a\u00e7\u00e3o que precisa ser tomada \u00e9 impor <strong>restri\u00e7\u00f5es de n\u00e3o-intera\u00e7\u00e3o<\/strong>, que permitem isolar o comportamento do modelo em rela\u00e7\u00e3o a cada atributo independente de todos os outros atributos, fornecendo uma imagem clara de como um atributo individual prediz o risco. Assim, a previs\u00e3o do modelo corresponde \u00e0 soma de cada efeito individual.<\/p>\n<p>Quando as restri\u00e7\u00f5es de monotonicidade e den\u00e3o-intera\u00e7\u00e3o s\u00e3o aplicadas, os valores SHAP podem ser usados para retornar c\u00f3digos de a\u00e7\u00e3o adversa (alguns benef\u00edcios adicionais s\u00e3o processos de treinamento mais r\u00e1pidos, maior poder de generaliza\u00e7\u00e3o do modelo e c\u00e1lculos de import\u00e2ncia de atributos mais f\u00e1ceis de interpretar). O gr\u00e1fico de depend\u00eancia SHAP a seguir mostra o efeito do Atributo 1 na previs\u00e3o do modelo ap\u00f3s a aplica\u00e7\u00e3o de ambas as restri\u00e7\u00f5es: pode-se notar que h\u00e1 uma rela\u00e7\u00e3o monot\u00f4nica de um para um entre os valores do atributo e os valores SHAP.<\/p>\n<p><em>Figura 3 &#8211; Gr\u00e1fico de depend\u00eancia SHAP do Atributo 1 depois com restri\u00e7\u00f5es monot\u00f4nicas e de intera\u00e7\u00e3o aplicadas<\/em><\/p>\n<\/div>\n<p><img decoding=\"async\" src=\"\/pt\/wp-content\/uploads\/sites\/9\/2024\/10\/SHAP-dependence-plot-of-Feature-1-after-with-monotonic-and-interaction-constraints-applied-2.png\" alt=\"\"><\/p>\n<div>Mantenha a conformidade com o Provenir AI<\/div>\n<div>\n<p>O <a href=\"https:\/\/www.provenir.com\/pt\/plataforma\/ia\/\">Provenir AI<\/a> adota uma abordagem cuidadosa para o desenvolvimento do modelo de ML, prevenindo o sobreajuste e fornecendo modelos totalmente transparentes e acion\u00e1veis, favorecendo o acesso dos consumidores ao financiamento e, simultaneamente, permitindo que os financiadores cumpram as regulamenta\u00e7\u00f5es financeiras.<\/p>\n<\/div>\n<h3>Quer saber mais sobre como o Provenir AI permite transpar\u00eancia e capacidade de a\u00e7\u00e3o?<\/h3>\n<p><p>\n        <a href=\"https:\/\/www.provenir.com\/pt\/fale-conosco\/\">Agende uma demonstra\u00e7\u00e3o!<\/a>\n    <\/p>\n<\/p>\n<div>Blogs mais recentes<\/div>\n<div>\n<div class=\"pt-cv-wrapper\"><div class=\"pt-cv-view pt-cv-grid pt-cv-colsys cveffect-zoomin pt-cv-pgregular pt-cv-round-btn\" id=\"pt-cv-view-0d017e0dk8\"><div data-id=\"pt-cv-page-1\" class=\"pt-cv-page\" data-cvc=\"4\"><div class=\"col-md-3 col-sm-4 col-xs-12 pt-cv-content-item pt-cv-1-col\"  data-pid=\"1785\"><div class='pt-cv-ifield'><a href=\"https:\/\/www.provenir.com\/pt\/serie-mito-da-hiperpersonalizacao-2\/\" class=\"_self pt-cv-href-thumbnail pt-cv-thumb-default pt-cv-thumb-wrapper cvplbd cvp-responsive-image img-rounded\" target=\"_self\" data-iw=\"200\" data-ih=\"100\"><img loading=\"lazy\" decoding=\"async\" width=\"1536\" height=\"1024\" src=\"https:\/\/www.provenir.com\/pt\/wp-content\/uploads\/sites\/9\/2026\/03\/Hyper-Personlization-2-PT.png\" class=\"pt-cv-thumbnail img-rounded\" alt=\"S\u00e9rie Mito da Hiperpersonaliza\u00e7\u00e3o #2\" \/><\/a>\n<h4 class=\"pt-cv-title\"><a href=\"https:\/\/www.provenir.com\/pt\/serie-mito-da-hiperpersonalizacao-2\/\" class=\"_self cvplbd\" target=\"_self\" data-iw=\"200\" data-ih=\"100\">S\u00e9rie Mito da Hiperpersonaliza\u00e7\u00e3o #2<\/a><\/h4>\n<div class=\"pt-cv-content\">S\u00e9rie Mito da Hiperpersonaliza\u00e7\u00e3o #2:A Armadilha do Scorecard: Como os Modelos Tradicionais Est\u00e3o Deixando Dinheiro ...<br \/><div class=\"pt-cv-rmwrap\"><a href=\"https:\/\/www.provenir.com\/pt\/serie-mito-da-hiperpersonalizacao-2\/\" class=\"_self pt-cv-readmore btn btn-success cvplbd\" target=\"_self\" data-iw=\"200\" data-ih=\"100\">Confira<\/a><\/div><\/div><\/div><\/div>\n<div class=\"col-md-3 col-sm-4 col-xs-12 pt-cv-content-item pt-cv-1-col\"  data-pid=\"1590\"><div class='pt-cv-ifield'><a href=\"https:\/\/www.provenir.com\/pt\/serie-o-mito-da-hiperpersonalizacao-1\/\" class=\"_self pt-cv-href-thumbnail pt-cv-thumb-default pt-cv-thumb-wrapper cvplbd cvp-responsive-image img-rounded\" target=\"_self\" data-iw=\"200\" data-ih=\"100\"><img loading=\"lazy\" decoding=\"async\" width=\"1200\" height=\"628\" src=\"https:\/\/www.provenir.com\/pt\/wp-content\/uploads\/sites\/9\/2026\/02\/260213-BLOG-Hyper-personalization-Myth1-FeatureIMG-GL_PTBR-49701.jpg\" class=\"pt-cv-thumbnail img-rounded\" alt=\"Hyper-personalization\" \/><\/a>\n<h4 class=\"pt-cv-title\"><a href=\"https:\/\/www.provenir.com\/pt\/serie-o-mito-da-hiperpersonalizacao-1\/\" class=\"_self cvplbd\" target=\"_self\" data-iw=\"200\" data-ih=\"100\">S\u00e9rie O Mito da Hiperpersonaliza\u00e7\u00e3o #1<\/a><\/h4>\n<div class=\"pt-cv-content\">S\u00e9rie O Mito da Hiperpersonaliza\u00e7\u00e3o #1:Por que os Bancos Pensam que Fazem Hiperpersonaliza\u00e7\u00e3o (Mas N\u00e3o ...<br \/><div class=\"pt-cv-rmwrap\"><a href=\"https:\/\/www.provenir.com\/pt\/serie-o-mito-da-hiperpersonalizacao-1\/\" class=\"_self pt-cv-readmore btn btn-success cvplbd\" target=\"_self\" data-iw=\"200\" data-ih=\"100\">Confira<\/a><\/div><\/div><\/div><\/div>\n<div class=\"col-md-3 col-sm-4 col-xs-12 pt-cv-content-item pt-cv-1-col\"  data-pid=\"1569\"><div class='pt-cv-ifield'><a href=\"https:\/\/www.provenir.com\/pt\/alem-das-regras-estaticas\/\" class=\"_self pt-cv-href-thumbnail pt-cv-thumb-default pt-cv-thumb-wrapper cvplbd cvp-responsive-image img-rounded\" target=\"_self\" data-iw=\"200\" data-ih=\"100\"><img loading=\"lazy\" decoding=\"async\" width=\"1800\" height=\"942\" src=\"https:\/\/www.provenir.com\/pt\/wp-content\/uploads\/sites\/9\/2026\/02\/250922-BLOG-AI-Campaign-social-tile04-1200x628-GL_PTBR-46776.jpg\" class=\"pt-cv-thumbnail img-rounded\" alt=\"Al\u00e9m das Regras Est\u00e1ticas\" \/><\/a>\n<h4 class=\"pt-cv-title\"><a href=\"https:\/\/www.provenir.com\/pt\/alem-das-regras-estaticas\/\" class=\"_self cvplbd\" target=\"_self\" data-iw=\"200\" data-ih=\"100\">Al\u00e9m das Regras Est\u00e1ticas<\/a><\/h4>\n<div class=\"pt-cv-content\">Al\u00e9m das Regras Est\u00e1ticas:Como os Sistemas de Aprendizado Aprimoram a Tomada De Decis\u00f5es em Servi\u00e7os ...<br \/><div class=\"pt-cv-rmwrap\"><a href=\"https:\/\/www.provenir.com\/pt\/alem-das-regras-estaticas\/\" class=\"_self pt-cv-readmore btn btn-success cvplbd\" target=\"_self\" data-iw=\"200\" data-ih=\"100\">Confira<\/a><\/div><\/div><\/div><\/div>\n<div class=\"col-md-3 col-sm-4 col-xs-12 pt-cv-content-item pt-cv-1-col\"  data-pid=\"1510\"><div class='pt-cv-ifield'><a href=\"https:\/\/www.provenir.com\/pt\/de-modelo-isolado-a-ecossistema-de-ia-empresarial-por-que-a-maioria-das-iniciativas-de-ia-em-servicos-financeiros-nao-consegue-escalar\/\" class=\"_self pt-cv-href-thumbnail pt-cv-thumb-default pt-cv-thumb-wrapper cvplbd cvp-responsive-image img-rounded\" target=\"_self\" data-iw=\"200\" data-ih=\"100\"><img loading=\"lazy\" decoding=\"async\" width=\"800\" height=\"419\" src=\"https:\/\/www.provenir.com\/pt\/wp-content\/uploads\/sites\/9\/2026\/01\/260120-BLOG-AI-Campaign-social-tile-1200x628-GL_PTBR-49325.jpg\" class=\"pt-cv-thumbnail img-rounded\" alt=\"De Modelo Isolado a Ecossistema de IA Empresarial: Por que a Maioria das Iniciativas de IA em Servi\u00e7os Financeiros N\u00e3o Consegue Escalar\" \/><\/a>\n<h4 class=\"pt-cv-title\"><a href=\"https:\/\/www.provenir.com\/pt\/de-modelo-isolado-a-ecossistema-de-ia-empresarial-por-que-a-maioria-das-iniciativas-de-ia-em-servicos-financeiros-nao-consegue-escalar\/\" class=\"_self cvplbd\" target=\"_self\" data-iw=\"200\" data-ih=\"100\">De Modelo Isolado a Ecossistema de IA Empresarial:...<\/a><\/h4>\n<div class=\"pt-cv-content\">De Modelo Isolado a Ecossistema de IA Empresarial:Por que a Maioria das Iniciativas de IA ...<br \/><div class=\"pt-cv-rmwrap\"><a href=\"https:\/\/www.provenir.com\/pt\/de-modelo-isolado-a-ecossistema-de-ia-empresarial-por-que-a-maioria-das-iniciativas-de-ia-em-servicos-financeiros-nao-consegue-escalar\/\" class=\"_self pt-cv-readmore btn btn-success cvplbd\" target=\"_self\" data-iw=\"200\" data-ih=\"100\">Confira<\/a><\/div><\/div><\/div><\/div><\/div><\/div>\n<div class=\"text-left round-button pt-cv-pagination-wrapper\"><ul class=\"pt-cv-pagination pt-cv-ajax pagination\" data-totalpages=\"9\" data-currentpage=\"1\" data-sid=\"0d017e0dk8\" data-unid=\"\" data-isblock=\"\" data-postid=\"\"><li class=\"active\"><a href=\"#\">1<\/a><\/li>\n\t<li ><a class=\"\" href=\"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/posts\/834\/?_page=2\">2<\/a><\/li>\n\t<li ><a class=\"\" href=\"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/posts\/834\/?_page=3\">3<\/a><\/li>\n\t<li ><a href=\"#\">&hellip;<\/a><\/li>\n\t<li ><a class=\"\" href=\"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/posts\/834\/?_page=9\">9<\/a><\/li>\n\t<li ><a class=\" \" href=\"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/posts\/834\/?_page=2\">&rsaquo;<\/a><\/li>\n\t<\/ul><img loading=\"lazy\" decoding=\"async\" width=\"15\" height=\"15\" class=\"pt-cv-spinner\" alt=\"Loading...\" src=\"data:image\/gif;base64,R0lGODlhDwAPALMPAMrKygwMDJOTkz09PZWVla+vr3p6euTk5M7OzuXl5TMzMwAAAJmZmWZmZszMzP\/\/\/yH\/C05FVFNDQVBFMi4wAwEAAAAh+QQFCgAPACwAAAAADwAPAAAEQvDJaZaZOIcV8iQK8VRX4iTYoAwZ4iCYoAjZ4RxejhVNoT+mRGP4cyF4Pp0N98sBGIBMEMOotl6YZ3S61Bmbkm4mAgAh+QQFCgAPACwAAAAADQANAAAENPDJSRSZeA418itN8QiK8BiLITVsFiyBBIoYqnoewAD4xPw9iY4XLGYSjkQR4UAUD45DLwIAIfkEBQoADwAsAAAAAA8ACQAABC\/wyVlamTi3nSdgwFNdhEJgTJoNyoB9ISYoQmdjiZPcj7EYCAeCF1gEDo4Dz2eIAAAh+QQFCgAPACwCAAAADQANAAAEM\/DJBxiYeLKdX3IJZT1FU0iIg2RNKx3OkZVnZ98ToRD4MyiDnkAh6BkNC0MvsAj0kMpHBAAh+QQFCgAPACwGAAAACQAPAAAEMDC59KpFDll73HkAA2wVY5KgiK5b0RRoI6MuzG6EQqCDMlSGheEhUAgqgUUAFRySIgAh+QQFCgAPACwCAAIADQANAAAEM\/DJKZNLND\/kkKaHc3xk+QAMYDKsiaqmZCxGVjSFFCxB1vwy2oOgIDxuucxAMTAJFAJNBAAh+QQFCgAPACwAAAYADwAJAAAEMNAs86q1yaWwwv2Ig0jUZx3OYa4XoRAfwADXoAwfo1+CIjyFRuEho60aSNYlOPxEAAAh+QQFCgAPACwAAAIADQANAAAENPA9s4y8+IUVcqaWJ4qEQozSoAzoIyhCK2NFU2SJk0hNnyEOhKR2AzAAj4Pj4GE4W0bkJQIAOw==\" \/><div class=\"clear pt-cv-clear-pagination\"><\/div><\/div><\/div>\t\t\t<style type=\"text\/css\" id=\"pt-cv-inline-style-417e5e0xt4\">#pt-cv-view-0d017e0dk8 .pt-cv-title a, #pt-cv-view-0d017e0dk8  .panel-title { font-weight: 600 !important; }\n#pt-cv-view-0d017e0dk8 .pt-cv-readmore  { color: #ffffff !important; background-color: #200644 !important; }\n#pt-cv-view-0d017e0dk8 .pt-cv-readmore:hover  { color: #ffffff !important; background-color: rgba(32,6,68,0.79) !important; }\n#pt-cv-view-0d017e0dk8  + .pt-cv-pagination-wrapper .pt-cv-more , #pt-cv-view-0d017e0dk8  + .pt-cv-pagination-wrapper .pagination .active a, .pt-cv-pagination[data-sid='0d017e0dk8'] .active a { color: #ffffff !important; background-color: #e0007a !important; }\n#pt-cv-view-0d017e0dk8 .img-rounded, #pt-cv-view-0d017e0dk8 .pt-cv-hover-wrapper { -webkit-border-radius: 10px !important; -moz-border-radius: 10px !important; border-radius: 10px !important; }\n#pt-cv-view-0d017e0dk8 .pt-cv-cap-w-img { border-bottom-left-radius: 10px !important; border-bottom-right-radius: 10px !important; }\n#pt-cv-view-0d017e0dk8 .cvp-responsive-image[style*=\"background-image\"] { width: 200px; max-height: 100px; overflow: hidden; aspect-ratio: 2 }\n#pt-cv-view-0d017e0dk8 .cvp-responsive-image img { max-width: 200px; max-height: 100px; aspect-ratio: 2 }<\/style>\r\n\t\t\t<\/div>\n<p><!--more--><br \/>\n<!-- {\"type\":\"layout\",\"children\":[{\"type\":\"section\",\"props\":{\"animation\":\"slide-bottom-small\",\"header_transparent\":true,\"header_transparent_noplaceholder\":true,\"header_transparent_text_color\":\"light\",\"image\":\"wp-content\/uploads\/hero-bg.svg\",\"image_position\":\"bottom-center\",\"image_size\":\"cover\",\"media_background\":\"#120226\",\"padding_bottom\":\"none\",\"padding_top\":\"large\",\"style\":\"default\",\"title_breakpoint\":\"xl\",\"title_position\":\"top-left\",\"title_rotation\":\"left\",\"vertical_align\":\"\",\"width\":\"default\"},\"children\":[{\"type\":\"row\",\"children\":[{\"type\":\"column\",\"props\":{\"image_position\":\"center-center\",\"position_sticky_breakpoint\":\"m\"},\"children\":[{\"type\":\"headline\",\"props\":{\"class\":\"uk-text-uppercase\",\"image_align\":\"left\",\"image_margin\":\"xsmall\",\"margin_bottom\":\"remove\",\"text_align\":\"center\",\"title_color\":\"warning\",\"title_element\":\"div\",\"title_style\":\"h3\",\"yooessentials_access_conditions\":[],\"yooessentials_access_mode\":\"AND\"},\"name\":\"PTBR - Block - AUTOPOPULATED - RESOURCE NAME\",\"source_extended\":{\"props\":{}},\"source\":{\"query\":{\"name\":\"posts.singlePost\"},\"props\":{\"content\":{\"arguments\":{\"separator\":\", \",\"show_link\":false,\"link_style\":\"\"},\"name\":\"resourceString\"}}}},{\"type\":\"headline\",\"props\":{\"content\":\"Como impor restri\u00e7\u00f5es a modelos de decis\u00e3o de cr\u00e9dito com machine learning (ML)\",\"image_align\":\"left\",\"image_margin\":\"xsmall\",\"margin_bottom\":\"medium\",\"margin_top\":\"remove\",\"text_align\":\"center\",\"title_element\":\"h1\",\"title_style\":\"heading-small\"}},{\"type\":\"grid\",\"props\":{\"content_column_breakpoint\":\"m\",\"filter_align\":\"left\",\"filter_all\":true,\"filter_grid_breakpoint\":\"m\",\"filter_grid_width\":\"auto\",\"filter_position\":\"top\",\"filter_style\":\"tab\",\"grid_column_align\":true,\"grid_column_gap\":\"small\",\"grid_default\":\"1\",\"grid_divider\":true,\"grid_medium\":\"\",\"grid_parallax_justify\":false,\"grid_row_align\":true,\"grid_row_gap\":\"small\",\"grid_small\":\"auto\",\"image_align\":\"left\",\"image_border\":\"circle\",\"image_grid_breakpoint\":\"m\",\"image_grid_width\":\"auto\",\"image_height\":\"60\",\"image_svg_color\":\"emphasis\",\"image_vertical_align\":true,\"image_width\":\"60\",\"item_animation\":true,\"lightbox_bg_close\":true,\"link_style\":\"default\",\"link_text\":\"Read more\",\"margin_bottom\":\"remove\",\"margin_top\":\"medium\",\"meta_align\":\"below-title\",\"meta_element\":\"div\",\"meta_style\":\"text-meta\",\"panel_link\":true,\"show_content\":true,\"show_hover_image\":true,\"show_hover_video\":true,\"show_image\":true,\"show_link\":true,\"show_meta\":true,\"show_title\":true,\"show_video\":true,\"text_align\":\"left\",\"text_align_breakpoint\":\"s\",\"text_align_fallback\":\"center\",\"title_align\":\"top\",\"title_element\":\"h3\",\"title_grid_breakpoint\":\"m\",\"title_grid_width\":\"1-2\",\"title_hover_style\":\"reset\"},\"children\":[{\"type\":\"grid_item\",\"source\":{\"query\":{\"name\":\"posts.singlePost\"},\"props\":{\"_condition\":{\"filters\":{\"condition\":\"!!\"},\"name\":\"author.name\"},\"content\":{\"filters\":{\"search\":\"\"},\"name\":\"author.name\"},\"image\":{\"filters\":{\"search\":\"\"},\"arguments\":{\"size\":\"96\"},\"name\":\"author.avatar\"}}}},{\"type\":\"grid_item\",\"source\":{\"query\":{\"name\":\"posts.singlePost\"},\"props\":{\"_condition\":{\"filters\":{\"condition\":\"!!\"},\"name\":\"date\"},\"content\":{\"filters\":{\"search\":\"\",\"date\":\"\"},\"name\":\"date\"}}}}],\"name\":\"Author | Date (auto populated)\"}]}]}],\"name\":\"home-hero\"},{\"type\":\"section\",\"props\":{\"image_position\":\"center-center\",\"style\":\"secondary\",\"title_breakpoint\":\"xl\",\"title_position\":\"top-left\",\"title_rotation\":\"left\",\"vertical_align\":\"\",\"width\":\"default\"},\"children\":[{\"type\":\"row\",\"children\":[{\"type\":\"column\",\"props\":{\"image_position\":\"center-center\",\"position_sticky_breakpoint\":\"m\",\"width_medium\":\"2-3\"},\"children\":[{\"type\":\"image\",\"props\":{\"image_border\":\"rounded\",\"image_box_decoration\":\"shadow\",\"image_height\":300,\"image_loading\":true,\"image_svg_color\":\"emphasis\",\"margin_bottom\":\"default\",\"margin_top\":\"default\",\"status\":\"disabled\",\"text_align\":\"left\"},\"source\":{\"query\":{\"name\":\"posts.singlePost\"},\"props\":{\"_condition\":{\"filters\":{\"condition\":\"!!\"},\"name\":\"featuredImage.url\"},\"image\":{\"filters\":{\"search\":\"\"},\"name\":\"featuredImage.url\"}}},\"name\":\"Image (auto populated from feature image)\"},{\"type\":\"text\",\"props\":{\"column_breakpoint\":\"m\",\"content\":\"\n\n<p><strong>Giampaolo Levorato, Senior Data Scientist, Provenir &amp; Dr. Mark Thackham, Head of Data Science, Provenir<\/strong><\/p>\n\n\",\"margin_bottom\":\"default\",\"margin_top\":\"default\"}},{\"type\":\"headline\",\"props\":{\"content\":\"Como obter explicabilidade e transpar\u00eancia com modelos complexos de ML\",\"image_align\":\"left\",\"image_margin\":\"xsmall\",\"title_color\":\"primary\",\"title_element\":\"div\",\"title_style\":\"h2\"},\"name\":\"The Silent Saboteur: Understanding Tech Bloat in Financial Services \"},{\"type\":\"text\",\"props\":{\"column_breakpoint\":\"m\",\"content\":\"\n\n<p>Um n\u00famero cada vez maior de financiadores tem adotado modelos avan\u00e7ados de aprendizagem de m\u00e1quina (ML) para decis\u00f5es de cr\u00e9dito. Os modelos de ML (como Random Forest, XGBoost, LightGBM e redes neurais) s\u00e3o mais preditivos e precisos quando comparados \u00e0 regress\u00e3o log\u00edstica utilizada como padr\u00e3o em an\u00e1lises de cr\u00e9dito tendo em vista sua capacidade de capturar rela\u00e7\u00f5es n\u00e3o lineares altamente complexas. Sem uma configura\u00e7\u00e3o cuidadosa durante o treinamento, contudo, tanto a explicabilidade quanto o poder de generaliza\u00e7\u00e3o do modelo podem ser afetados. Isso \u00e9 crucial, uma vez que os modelos de decis\u00e3o de cr\u00e9dito devem atender a dois crit\u00e9rios:<\/p>\n\n\\n\n\n<ul>\\n\n\n<li><strong>Explicabilidade<\/strong>: os mecanismos do modelo devem ser transparentes para os usu\u00e1rios e prover conclus\u00f5es acion\u00e1veis para clientes com cr\u00e9dito recusado; e\u00a0<\/li>\n\n\\n\n\n<li><strong>Generaliza\u00e7\u00e3o<\/strong>: os modelos n\u00e3o devem sobreajustar os dados de treinamento e devem apresentar um alto poder de generaliza\u00e7\u00e3o, i.e., devem alcan\u00e7ar alta performance em novos dados (de produ\u00e7\u00e3o).<\/li>\n\n\\n<\/ul>\n\n\\n\n\n<p>Este artigo explica a import\u00e2ncia de se aplicar restri\u00e7\u00f5es monot\u00f4nicas e de intera\u00e7\u00e3o ao treinar modelos de ML a fim de atender a esses crit\u00e9rios.<\/p>\n\n\",\"margin_bottom\":\"default\",\"margin_top\":\"default\"}},{\"type\":\"headline\",\"props\":{\"content\":\"Transpar\u00eancia e acionabilidade\",\"image_align\":\"left\",\"image_margin\":\"xsmall\",\"title_color\":\"primary\",\"title_element\":\"div\",\"title_style\":\"h2\"},\"name\":\"The Silent Saboteur: Understanding Tech Bloat in Financial Services \"},{\"type\":\"text\",\"props\":{\"column_breakpoint\":\"m\",\"content\":\"\n\n<p>Muitas jurisdi\u00e7\u00f5es exigem que os financiadores expliquem como e por que uma solicita\u00e7\u00e3o de cr\u00e9dito foi recusada, estipulando que os financiadores forne\u00e7am c\u00f3digos de a\u00e7\u00e3o adversa com os principais motivos da recusa. Explica\u00e7\u00f5es corretas sobre por que a previs\u00e3o de um modelo levou um financiador a recusar o cr\u00e9dito torna os modelos de ML transparentes (n\u00e3o h\u00e1 a imprecis\u00e3o de uma \u201ccaixa preta\u201d quanto aos mecanismos de previs\u00e3o do modelo) e acion\u00e1veis (o cr\u00e9dito recusado do cliente tem a\u00e7\u00f5es claras e tang\u00edveis sobre as medidas que podem ser tomadas para melhorar suas perspectivas de obter cr\u00e9dito). Vejamos um exemplo concreto de explicabilidade: se o atributo em um modelo cujo impacto mais negativo para quem tem cr\u00e9dito recusado for o \u201cn\u00famero de buscas de cr\u00e9dito nos \u00faltimos seis meses\u201d, ent\u00e3o o c\u00f3digo de a\u00e7\u00e3o adversa poderiaser \u201co n\u00famero de buscas de cr\u00e9dito nos \u00faltimos seis meses \u00e9 muito alto\u201d. Isso mostra transpar\u00eancia e indica uma a\u00e7\u00e3o clara para os clientes que, para melhorarem sua credibilidade, precisam reduzir suas buscas de cr\u00e9dito. Assim, os solicitantes podem se conscientizar mais facilmente dos fatores que os impedem de ter melhores pontua\u00e7\u00f5es e melhorar sua credibilidade.<\/p>\n\n\\n\n\n<p>A transpar\u00eancia garante ainda aos financiadores que as decis\u00f5es de cr\u00e9dito sejam baseadas em atributos explic\u00e1veis e defens\u00e1veis e n\u00e3o usem atributos protegidos por lei como sexo, religi\u00e3o ou etnia.\u00a0<\/p>\n\n\\n\n\n<p>H\u00e1 diversos m\u00e9todos de explicabilidade para interpretar decis\u00f5es de modelos complexos. Dois dos mais populares s\u00e3o:<\/p>\n\n\\n\n\n<ol>\\n\n\n<li>Local Interpretable Model-Agnostic Explanations (LIME)<\/li>\n\n\\n\n\n<li>SHapley Additive exPlanation (SHAP)<\/li>\n\n\\n<\/ol>\n\n\\n\n\n<p>O LIME aproxima modelos complexos de ML com um modelo local mais simples e f\u00e1cil de explicar. Como o LIME utiliza um modelo proxy com foco no impacto local dos atributos, n\u00e3o se pode empreg\u00e1-lo na gera\u00e7\u00e3o de c\u00f3digos de a\u00e7\u00e3o adversa, os quais devem ser gerados com o modelo de ML adotado para decis\u00e3o de cr\u00e9dito (e n\u00e3o um proxy).<\/p>\n\n\\n\n\n<p>O SHAPquantifica a contribui\u00e7\u00e3o de cada atributo para uma previs\u00e3o feita por um modelo de ML (atributos com maiores contribui\u00e7\u00f5es para a previs\u00e3o do modelo t\u00eam um SHAP superior), tornando as previs\u00f5es do modelo transparentes. Todavia, a transpar\u00eancia n\u00e3o leva diretamente \u00e0 a\u00e7\u00e3o necess\u00e1ria para uso em c\u00f3digos de a\u00e7\u00e3o adversa. Para usar os valores SHAP na deriva\u00e7\u00e3o de c\u00f3digos de a\u00e7\u00e3o adversa \u00e9 necess\u00e1rio impor as seguintes restri\u00e7\u00f5es ao treinamento do modelo:<\/p>\n\n\\n\n\n<ol>\\n\n\n<li>restri\u00e7\u00f5es de n\u00e3o-intera\u00e7\u00e3o e<\/li>\n\n\\n\n\n<li>restri\u00e7\u00f5es de monotonicidade.<\/li>\n\n\\n<\/ol>\n\n\\n\n\n<p><strong>Por que as restri\u00e7\u00f5es do modelo s\u00e3o necess\u00e1rias?<\/strong><\/p>\n\n\\n\n\n<p>Para entender a necessidade de tais restri\u00e7\u00f5es, \u00e9 \u00fatil observar um gr\u00e1fico de depend\u00eancia SHAP que mostra o efeito de um \u00fanico atributo nas previs\u00f5es feitas pelo modelo (o gr\u00e1fico abaixo foi produzido a partir de uma \u00e1rvore de decis\u00e3o com gradient boosting treinada em um conjunto de dados de risco de cr\u00e9dito com o objetivo de estimar a probabilidade de inadimpl\u00eancia dos solicitantes de empr\u00e9stimos).<\/p>\n\n\",\"margin_bottom\":\"default\",\"margin_top\":\"default\"}},{\"type\":\"text\",\"props\":{\"column_breakpoint\":\"m\",\"content\":\"\n\n<p>Os cart\u00f5es de cr\u00e9dito alternativos s\u00e3o cart\u00f5es projetados para consumidores rec\u00e9m-chegados ao cr\u00e9dito (NTC) com hist\u00f3rico de cr\u00e9dito reduzidos ou nulo, inclusive estudantes universit\u00e1rios, imigrantes e pessoas de baixa renda, para ajudar a criar cr\u00e9dito e melhorar a credibilidade. Diferentemente dos cart\u00f5es de cr\u00e9dito tradicionais, estes n\u00e3o requerem uma investiga\u00e7\u00e3o de cr\u00e9dito e, muitas vezes, v\u00eam acompanhados de recursos como educa\u00e7\u00e3o financeira, pagamentos autom\u00e1ticos e recompensas para ajudar os usu\u00e1rios a criar cr\u00e9dito e, ao mesmo tempo, promover o uso respons\u00e1vel do cart\u00e3o. Os cart\u00f5es de cr\u00e9dito alternativos podem ser um \u00f3timo ponto de entrada para os 1,4 bilh\u00e3o de adultos que n\u00e3o t\u00eam conta banc\u00e1ria em todo o mundo.<\/p>\n\n\\n\n\n<p><strong>Por que s\u00e3o populares:<\/strong><\/p>\n\n\\n\n\n<p>Os cart\u00f5es de cr\u00e9dito alternativos oferecem aos credores uma oportunidade de atrair novos usu\u00e1rios que normalmente n\u00e3o se qualificariam para os cart\u00f5es de cr\u00e9dito tradicionais devido a um hist\u00f3rico credit\u00edcio limitado ou inexistente ou baixo score de cr\u00e9dito. Ao oferecer cart\u00f5es que ensinam os usu\u00e1rios a construir cr\u00e9dito, com limites de gastos baixos e pagamentos autom\u00e1ticos, os credores podem ajudar os consumidores a estabelecer um bom cr\u00e9dito e criar um relacionamento com eles para futuros produtos financeiros.<\/p>\n\n\\n\n\n<p><strong>Como oferec\u00ea-los:<\/strong><\/p>\n\n\\n\n\n<p>Talvez n\u00e3o seja surpreendente o fato de que os dados alternativos sejam a chave para os cart\u00f5es de cr\u00e9dito alternativos. Dados alternativos referem-se a todas as informa\u00e7\u00f5es financeiras que n\u00e3o est\u00e3o inclu\u00eddas em um relat\u00f3rio de cr\u00e9dito, como contas de servi\u00e7os p\u00fablicos, pagamentos de aluguel, hist\u00f3rico de emprego e, \u00e0s vezes, at\u00e9 mesmo m\u00eddias sociais. Como esses cart\u00f5es s\u00e3o criados para consumidores sem os dados tradicionais dos bureaus, os credores podem criar seus pr\u00f3prios modelos de pontua\u00e7\u00e3o de cr\u00e9dito integrando uma grande quantidade de dados alternativos em seus motores de decis\u00e3o. Se voc\u00ea tem dados alternativos, voc\u00ea tem a base para cart\u00f5es de cr\u00e9dito alternativos.<\/p>\n\n\",\"margin_bottom\":\"default\",\"margin_top\":\"default\"}},{\"type\":\"image\",\"props\":{\"image\":\"wp-content\/uploads\/sites\/9\/2024\/10\/SHAP-dependence-plot-1.png\",\"image_svg_color\":\"emphasis\",\"margin_bottom\":\"default\",\"margin_top\":\"default\"}},{\"type\":\"text\",\"props\":{\"column_breakpoint\":\"m\",\"content\":\"\n\n<p><em>Figura 1 - Gr\u00e1fico de depend\u00eancia SHAP para o Atributo 1<\/em><\/p>\n\n\\n\n\n<p>A primeira observa\u00e7\u00e3o \u00e9 que o padr\u00e3o \u00e9 n\u00e3o monot\u00f4nico: \u00e0 medida que os valores do Atributo 1 aumentam, a qualidade de cr\u00e9dito melhora, at\u00e9 que se preveja uma deteriora\u00e7\u00e3o.<\/p>\n\n\\n\n\n<p>A primeira a\u00e7\u00e3o necess\u00e1ria \u00e9 aplicar restri\u00e7\u00f5es de monotonicidade, que imp\u00f5em previs\u00f5es de modelo para aumentar ou diminuir monotonicamente em rela\u00e7\u00e3o a um atributo quando todos os outros atributos permanecem inalterados. No exemplo acima, valores mais altos do Atributo 1 correspondem a mais qualidade de cr\u00e9dito.\u00a0Desvios da monotonicidade (que podem ocorrer frequentemente quando as restri\u00e7\u00f5es de atributos monot\u00f4nicos n\u00e3o s\u00e3o aplicadas) raramente representam um padr\u00e3o genu\u00edno, e sim geralmente indicam um sobreajuste excessivo aos dados de treino, comprometendo o poder de generaliza\u00e7\u00e3o do modelo.<\/p>\n\n\\n\n\n<p>A aplica\u00e7\u00e3o de restri\u00e7\u00f5es de monotonicidade n\u00e3o \u00e9 suficiente para que os valores SHAP retornem c\u00f3digos de a\u00e7\u00e3o adversa. De fato, os atributos podem ser correlacionados at\u00e9 certo ponto: quando os recursos interagem entre si em um modelo de ML, a previs\u00e3o n\u00e3o pode ser expressa como a soma dos efeitos dos atributos, porque o efeito de um atributo depende do valor de outros.<\/p>\n\n\\n\n\n<p>O gr\u00e1fico de depend\u00eancia SHAP a seguir mostra como o efeito de Atributo 1 depende do Atributo 2: a intera\u00e7\u00e3o entre ambos aparece como um padr\u00e3o vertical distinto de colora\u00e7\u00e3o.<\/p>\n\n\",\"margin_bottom\":\"default\",\"margin_top\":\"default\"}},{\"type\":\"image\",\"props\":{\"image\":\"wp-content\/uploads\/sites\/9\/2024\/10\/SHAP-dependence-plot-showing-interaction-between-Feature1-and-Feature2-1.png\",\"image_svg_color\":\"emphasis\",\"margin_bottom\":\"default\",\"margin_top\":\"default\"}},{\"type\":\"text\",\"props\":{\"column_breakpoint\":\"m\",\"content\":\"\n\n<p><em>Figura 2 - Gr\u00e1fico de depend\u00eancia SHAP mostrando intera\u00e7\u00e3o entre Atributo 1 e Atributo 2<\/em><\/p>\n\n\\n\n\n<p>A segunda a\u00e7\u00e3o que precisa ser tomada \u00e9 impor <strong>restri\u00e7\u00f5es de n\u00e3o-intera\u00e7\u00e3o<\/strong>, que permitem isolar o comportamento do modelo em rela\u00e7\u00e3o a cada atributo independente de todos os outros atributos, fornecendo uma imagem clara de como um atributo individual prediz o risco. Assim, a previs\u00e3o do modelo corresponde \u00e0 soma de cada efeito individual.<\/p>\n\n\\n\n\n<p>Quando as restri\u00e7\u00f5es de monotonicidade e den\u00e3o-intera\u00e7\u00e3o s\u00e3o aplicadas, os valores SHAP podem ser usados para retornar c\u00f3digos de a\u00e7\u00e3o adversa (alguns benef\u00edcios adicionais s\u00e3o processos de treinamento mais r\u00e1pidos, maior poder de generaliza\u00e7\u00e3o do modelo e c\u00e1lculos de import\u00e2ncia de atributos mais f\u00e1ceis de interpretar). O gr\u00e1fico de depend\u00eancia SHAP a seguir mostra o efeito do Atributo 1 na previs\u00e3o do modelo ap\u00f3s a aplica\u00e7\u00e3o de ambas as restri\u00e7\u00f5es: pode-se notar que h\u00e1 uma rela\u00e7\u00e3o monot\u00f4nica de um para um entre os valores do atributo e os valores SHAP.<\/p>\n\n\\n\n\n<p><em>Figura 3 - Gr\u00e1fico de depend\u00eancia SHAP do Atributo 1 depois com restri\u00e7\u00f5es monot\u00f4nicas e de intera\u00e7\u00e3o aplicadas<\/em><\/p>\n\n\",\"margin_bottom\":\"default\",\"margin_top\":\"default\"}},{\"type\":\"image\",\"props\":{\"image\":\"wp-content\/uploads\/sites\/9\/2024\/10\/SHAP-dependence-plot-of-Feature-1-after-with-monotonic-and-interaction-constraints-applied-2.png\",\"image_svg_color\":\"emphasis\",\"margin_bottom\":\"default\",\"margin_top\":\"default\"}},{\"type\":\"headline\",\"props\":{\"content\":\"Mantenha a conformidade com o Provenir AI\",\"image_align\":\"left\",\"image_margin\":\"xsmall\",\"title_color\":\"primary\",\"title_element\":\"div\",\"title_style\":\"h2\"},\"name\":\"The Silent Saboteur: Understanding Tech Bloat in Financial Services \"},{\"type\":\"text\",\"props\":{\"column_breakpoint\":\"m\",\"content\":\"\n\n<p>O <a href=\\\"https:\/\/www.provenir.com\/pt\/plataforma\/ia\/\\\">Provenir AI<\/a> adota uma abordagem cuidadosa para o desenvolvimento do modelo de ML, prevenindo o sobreajuste e fornecendo modelos totalmente transparentes e acion\u00e1veis, favorecendo o acesso dos consumidores ao financiamento e, simultaneamente, permitindo que os financiadores cumpram as regulamenta\u00e7\u00f5es financeiras.<\/p>\n\n\",\"margin_bottom\":\"default\",\"margin_top\":\"default\"}}]},{\"type\":\"column\",\"props\":{\"image_position\":\"center-center\",\"position_sticky\":\"row\",\"position_sticky_breakpoint\":\"m\",\"position_sticky_offset\":\"100\",\"style\":\"card-default\",\"width_medium\":\"1-3\"},\"children\":[{\"type\":\"headline\",\"props\":{\"content\":\"Quer saber mais sobre como o Provenir AI permite transpar\u00eancia e capacidade de a\u00e7\u00e3o?\",\"image_align\":\"left\",\"image_margin\":\"xsmall\",\"text_align\":\"center\",\"title_element\":\"h3\",\"title_style\":\"h3\"}},{\"type\":\"button\",\"props\":{\"grid_column_gap\":\"small\",\"grid_row_gap\":\"\",\"margin_bottom\":\"medium\",\"margin_top\":\"medium\",\"maxwidth\":\"medium\",\"text_align\":\"center\"},\"children\":[{\"type\":\"button_item\",\"props\":{\"button_style\":\"default\",\"content\":\"Agende uma demonstra\u00e7\u00e3o!\",\"dialog_layout\":\"modal\",\"dialog_offcanvas_flip\":true,\"icon\":\"\",\"icon_align\":\"left\",\"link\":\"https:\/\/www.provenir.com\/pt\/fale-conosco\/\"}}]}]}],\"props\":{\"layout\":\"2-3,1-3\"}}]},{\"type\":\"section\",\"props\":{\"image_position\":\"center-center\",\"padding_top\":\"none\",\"preserve_color\":false,\"style\":\"secondary\",\"title_breakpoint\":\"xl\",\"title_position\":\"top-left\",\"title_rotation\":\"left\",\"vertical_align\":\"\",\"width\":\"default\"},\"children\":[{\"type\":\"row\",\"children\":[{\"type\":\"column\",\"props\":{\"image_position\":\"center-center\",\"position_sticky_breakpoint\":\"m\"},\"children\":[{\"type\":\"headline\",\"props\":{\"class\":\"uk-text-uppercase\",\"content\":\"Blogs mais recentes\",\"image_align\":\"left\",\"image_margin\":\"xsmall\",\"title_color\":\"background\",\"title_decoration\":\"line\",\"title_element\":\"div\",\"title_style\":\"h4\"}},{\"type\":\"html\",\"props\":{\"content\":\"[pt_view id=\\\"0d017e0dk8\\\"]\"}}]}]}],\"name\":\"PTBR - Block - filter Blogs\"}],\"version\":\"5.0.28\",\"yooessentialsVersion\":\"3.0.3\"} --><\/p>\n","protected":false},"excerpt":{"rendered":"<p>A explicabilidade e a transpar\u00eancia s\u00e3o essenciais em modelos complexos de aprendizado de m\u00e1quina (ML) usados em decis\u00f5es de cr\u00e9dito. Saiba como impor restri\u00e7\u00f5es de monotonicidade e de intera\u00e7\u00e3o para tornar os modelos mais previs\u00edveis e defens\u00e1veis.<\/p>\n","protected":false},"author":18,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[3],"tags":[],"industry":[9],"language":[41],"mktplace-data-type":[],"mktplace-region":[],"mktplace-use-case":[],"resource":[78],"class_list":["post-834","post","type-post","status-publish","format-standard","hentry","category-blog","industry-ia","language-ptbr","resource-blogs"],"acf":[],"yoast_head":"<!-- This site is optimized with the Yoast SEO Premium plugin v27.4 (Yoast SEO v27.4) - https:\/\/yoast.com\/product\/yoast-seo-premium-wordpress\/ -->\n<title>Como aplicar restri\u00e7\u00f5es a modelos de cr\u00e9dito com ML<\/title>\n<meta name=\"description\" content=\"Entenda a import\u00e2ncia da explicabilidade e transpar\u00eancia em modelos complexos de ML: confian\u00e7a e conformidade para decis\u00f5es automatizadas.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.provenir.com\/pt\/explicabilidade-transparencia-modelos-complexos-ml\/\" \/>\n<meta property=\"og:locale\" content=\"pt_BR\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Como impor restri\u00e7\u00f5es a modelos de decis\u00e3o de cr\u00e9dito com machine learning (ML)\" \/>\n<meta property=\"og:description\" content=\"Entenda a import\u00e2ncia da explicabilidade e transpar\u00eancia em modelos complexos de ML: confian\u00e7a e conformidade para decis\u00f5es automatizadas.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.provenir.com\/pt\/explicabilidade-transparencia-modelos-complexos-ml\/\" \/>\n<meta property=\"og:site_name\" content=\"Provenir-PTBR\" \/>\n<meta property=\"article:published_time\" content=\"2023-01-05T10:58:00+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2026-04-08T12:37:14+00:00\" \/>\n<meta name=\"author\" content=\"Carol Hamilton\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data1\" content=\"Carol Hamilton\" \/>\n\t<meta name=\"twitter:label2\" content=\"Est. reading time\" \/>\n\t<meta name=\"twitter:data2\" content=\"9 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/explicabilidade-transparencia-modelos-complexos-ml\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/explicabilidade-transparencia-modelos-complexos-ml\\\/\"},\"author\":{\"name\":\"Carol Hamilton\",\"@id\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/#\\\/schema\\\/person\\\/14ab90192884c66d8c80ad32ded8c258\"},\"headline\":\"Como impor restri\u00e7\u00f5es a modelos de decis\u00e3o de cr\u00e9dito com machine learning (ML)\",\"datePublished\":\"2023-01-05T10:58:00+00:00\",\"dateModified\":\"2026-04-08T12:37:14+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/explicabilidade-transparencia-modelos-complexos-ml\\\/\"},\"wordCount\":1692,\"commentCount\":0,\"articleSection\":[\"Blog\"],\"inLanguage\":\"pt-BR\",\"potentialAction\":[{\"@type\":\"CommentAction\",\"name\":\"Comment\",\"target\":[\"https:\\\/\\\/www.provenir.com\\\/pt\\\/explicabilidade-transparencia-modelos-complexos-ml\\\/#respond\"]}]},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/explicabilidade-transparencia-modelos-complexos-ml\\\/\",\"url\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/explicabilidade-transparencia-modelos-complexos-ml\\\/\",\"name\":\"Como aplicar restri\u00e7\u00f5es a modelos de cr\u00e9dito com ML\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/#website\"},\"datePublished\":\"2023-01-05T10:58:00+00:00\",\"dateModified\":\"2026-04-08T12:37:14+00:00\",\"author\":{\"@id\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/#\\\/schema\\\/person\\\/14ab90192884c66d8c80ad32ded8c258\"},\"description\":\"Entenda a import\u00e2ncia da explicabilidade e transpar\u00eancia em modelos complexos de ML: confian\u00e7a e conformidade para decis\u00f5es automatizadas.\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/explicabilidade-transparencia-modelos-complexos-ml\\\/#breadcrumb\"},\"inLanguage\":\"pt-BR\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.provenir.com\\\/pt\\\/explicabilidade-transparencia-modelos-complexos-ml\\\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/explicabilidade-transparencia-modelos-complexos-ml\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Como impor restri\u00e7\u00f5es a modelos de decis\u00e3o de cr\u00e9dito com machine learning (ML)\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/#website\",\"url\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/\",\"name\":\"Provenir-PTBR\",\"description\":\"Decis\u00e3o de risco de cr\u00e9dito baseada em IA\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"pt-BR\"},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/#\\\/schema\\\/person\\\/14ab90192884c66d8c80ad32ded8c258\",\"name\":\"Carol Hamilton\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"pt-BR\",\"@id\":\"https:\\\/\\\/www.provenir.com\\\/wp-content\\\/uploads\\\/2025\\\/02\\\/carol-1080x1080-1-96x96.jpg\",\"url\":\"https:\\\/\\\/www.provenir.com\\\/wp-content\\\/uploads\\\/2025\\\/02\\\/carol-1080x1080-1-96x96.jpg\",\"contentUrl\":\"https:\\\/\\\/www.provenir.com\\\/wp-content\\\/uploads\\\/2025\\\/02\\\/carol-1080x1080-1-96x96.jpg\",\"caption\":\"Carol Hamilton\"},\"url\":\"https:\\\/\\\/www.provenir.com\\\/pt\\\/author\\\/carol\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO Premium plugin. -->","yoast_head_json":{"title":"Como aplicar restri\u00e7\u00f5es a modelos de cr\u00e9dito com ML","description":"Entenda a import\u00e2ncia da explicabilidade e transpar\u00eancia em modelos complexos de ML: confian\u00e7a e conformidade para decis\u00f5es automatizadas.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.provenir.com\/pt\/explicabilidade-transparencia-modelos-complexos-ml\/","og_locale":"pt_BR","og_type":"article","og_title":"Como impor restri\u00e7\u00f5es a modelos de decis\u00e3o de cr\u00e9dito com machine learning (ML)","og_description":"Entenda a import\u00e2ncia da explicabilidade e transpar\u00eancia em modelos complexos de ML: confian\u00e7a e conformidade para decis\u00f5es automatizadas.","og_url":"https:\/\/www.provenir.com\/pt\/explicabilidade-transparencia-modelos-complexos-ml\/","og_site_name":"Provenir-PTBR","article_published_time":"2023-01-05T10:58:00+00:00","article_modified_time":"2026-04-08T12:37:14+00:00","author":"Carol Hamilton","twitter_card":"summary_large_image","twitter_misc":{"Written by":"Carol Hamilton","Est. reading time":"9 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.provenir.com\/pt\/explicabilidade-transparencia-modelos-complexos-ml\/#article","isPartOf":{"@id":"https:\/\/www.provenir.com\/pt\/explicabilidade-transparencia-modelos-complexos-ml\/"},"author":{"name":"Carol Hamilton","@id":"https:\/\/www.provenir.com\/pt\/#\/schema\/person\/14ab90192884c66d8c80ad32ded8c258"},"headline":"Como impor restri\u00e7\u00f5es a modelos de decis\u00e3o de cr\u00e9dito com machine learning (ML)","datePublished":"2023-01-05T10:58:00+00:00","dateModified":"2026-04-08T12:37:14+00:00","mainEntityOfPage":{"@id":"https:\/\/www.provenir.com\/pt\/explicabilidade-transparencia-modelos-complexos-ml\/"},"wordCount":1692,"commentCount":0,"articleSection":["Blog"],"inLanguage":"pt-BR","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/www.provenir.com\/pt\/explicabilidade-transparencia-modelos-complexos-ml\/#respond"]}]},{"@type":"WebPage","@id":"https:\/\/www.provenir.com\/pt\/explicabilidade-transparencia-modelos-complexos-ml\/","url":"https:\/\/www.provenir.com\/pt\/explicabilidade-transparencia-modelos-complexos-ml\/","name":"Como aplicar restri\u00e7\u00f5es a modelos de cr\u00e9dito com ML","isPartOf":{"@id":"https:\/\/www.provenir.com\/pt\/#website"},"datePublished":"2023-01-05T10:58:00+00:00","dateModified":"2026-04-08T12:37:14+00:00","author":{"@id":"https:\/\/www.provenir.com\/pt\/#\/schema\/person\/14ab90192884c66d8c80ad32ded8c258"},"description":"Entenda a import\u00e2ncia da explicabilidade e transpar\u00eancia em modelos complexos de ML: confian\u00e7a e conformidade para decis\u00f5es automatizadas.","breadcrumb":{"@id":"https:\/\/www.provenir.com\/pt\/explicabilidade-transparencia-modelos-complexos-ml\/#breadcrumb"},"inLanguage":"pt-BR","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.provenir.com\/pt\/explicabilidade-transparencia-modelos-complexos-ml\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/www.provenir.com\/pt\/explicabilidade-transparencia-modelos-complexos-ml\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/www.provenir.com\/pt\/"},{"@type":"ListItem","position":2,"name":"Como impor restri\u00e7\u00f5es a modelos de decis\u00e3o de cr\u00e9dito com machine learning (ML)"}]},{"@type":"WebSite","@id":"https:\/\/www.provenir.com\/pt\/#website","url":"https:\/\/www.provenir.com\/pt\/","name":"Provenir-PTBR","description":"Decis\u00e3o de risco de cr\u00e9dito baseada em IA","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.provenir.com\/pt\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"pt-BR"},{"@type":"Person","@id":"https:\/\/www.provenir.com\/pt\/#\/schema\/person\/14ab90192884c66d8c80ad32ded8c258","name":"Carol Hamilton","image":{"@type":"ImageObject","inLanguage":"pt-BR","@id":"https:\/\/www.provenir.com\/wp-content\/uploads\/2025\/02\/carol-1080x1080-1-96x96.jpg","url":"https:\/\/www.provenir.com\/wp-content\/uploads\/2025\/02\/carol-1080x1080-1-96x96.jpg","contentUrl":"https:\/\/www.provenir.com\/wp-content\/uploads\/2025\/02\/carol-1080x1080-1-96x96.jpg","caption":"Carol Hamilton"},"url":"https:\/\/www.provenir.com\/pt\/author\/carol\/"}]}},"_links":{"self":[{"href":"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/posts\/834","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/users\/18"}],"replies":[{"embeddable":true,"href":"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/comments?post=834"}],"version-history":[{"count":0,"href":"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/posts\/834\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/media?parent=834"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/categories?post=834"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/tags?post=834"},{"taxonomy":"industry","embeddable":true,"href":"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/industry?post=834"},{"taxonomy":"language","embeddable":true,"href":"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/language?post=834"},{"taxonomy":"mktplace-data-type","embeddable":true,"href":"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/mktplace-data-type?post=834"},{"taxonomy":"mktplace-region","embeddable":true,"href":"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/mktplace-region?post=834"},{"taxonomy":"mktplace-use-case","embeddable":true,"href":"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/mktplace-use-case?post=834"},{"taxonomy":"resource","embeddable":true,"href":"https:\/\/www.provenir.com\/pt\/wp-json\/wp\/v2\/resource?post=834"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}