AGÊNCIAS DE DESENVOLVIMENTO E PRODER: UMA AVALIAÇÃO
AGÊNCIAS DE DESENVOLVIMENTO E PRODER: UMA AVALIAÇÃO
AGÊNCIAS DE DESENVOLVIMENTO E PRODER: UMA AVALIAÇÃO
You also want an ePaper? Increase the reach of your titles
YUMPU automatically turns print PDFs into web optimized ePapers that Google loves.
<strong>AGÊNCIAS</strong> <strong>DE</strong> <strong>DE</strong>SENVOLVIMENTO E PRO<strong>DE</strong>R: <strong>UMA</strong> <strong>AVALIAÇÃO</strong> *<br />
José Cezar Castanhar **<br />
Frederico Lustosa da Costa**<br />
SUMÁRIO: 1 -Introdução; 2 -A metodologia de avaliação proposta; 2.1 – Operacionalização da<br />
Metodologia; 2.2 - Amplitude e Escopo da pesquisa de campo; 2.3 – Perfil dos Usuários dos Serviços<br />
das ADRs e dos Participantes do PRO<strong>DE</strong>R; 3 -Avaliação : evidências da pesquisa de campo; 3.1 –<br />
Serviços do SEBRAE utilizados pelos clientes; 3.2 – Impacto dos Serviços Utilizados; 3.3 – Percepção<br />
pelos clientes da qualidade dos serviços e da eficácia geral dos programas avaliados; 3.4 – Avaliação<br />
do grau de conhecimento do SEBRAE e de seus programas e da compreensão de sua missão e de seus<br />
objetivos; 3.5 – Avaliação de Processos e Estratégias; 4 -Sumário de conclusões: desafios gerenciais;<br />
5 - Bibliografia.<br />
1 - INTRODUÇÃO<br />
As duas últimas décadas colocaram o Estado, particularmente nos países em desenvolvimento, em face<br />
de um desafio paradoxal. De um lado, o agravamento da crise fiscal reduziu de forma contínua o<br />
montante de recursos disponíveis para a execução de políticas públicas essenciais, em especial aquelas<br />
de cunho social. De outro, a queda do crescimento econômico (em grande parte decorrente da própria<br />
“quebra” do Estado) provocou um crescimento da demanda por serviços sociais e bens públicos em<br />
geral , tais como: políticas assistenciais diretas (programas de cesta alimentar e seguro desemprego),<br />
política educacional (demanda crescente por escolas públicas), políticas de recapacitação de mão-deobra,<br />
políticas de geração de emprego e renda, dentre outras.<br />
Como então conciliar as exigências de uma demanda crescente com recursos financeiros cada vez mais<br />
escassos? É claro que não existe uma única resposta a essa pergunta. As respostas envolvem, pelo<br />
menos, três tipos de medidas (e mudanças). Medidas de natureza estrutural (reforma do estado,<br />
privatização, reforma da previdência, reforma tributárias, etc.), medidas de natureza conjuntural (ajuste<br />
fiscal, queda dos juros, retomada do crescimento econômico) e, não menos importante, medidas de<br />
natureza gerencial, ou seja, melhoria na forma de atuação do Estado, seja através de mudança de<br />
comportamentos, seja através do uso de instrumentos gerenciais mais adequados, possibilitando um<br />
aumento da eficiência e da eficácia no seu desempenho. É interessante notar que, enquanto os dois<br />
primeiros tipos de medidas envolvem, naturalmente, mudanças institucionais, complexas negociações<br />
políticas e demandam um tempo maior para sua concretização, as medidas de natureza gerencial têm a<br />
vantagem de poder ser aplicadas no curto prazo e dependerem (na maioria dos casos) essencialmente<br />
da iniciativa (vontade política) dos próprios dirigentes públicos (sejam ministros, diretores ou qualquer<br />
outro com responsabilidade gerencial).<br />
* Este paper é uma versão reduzida de um relatório de pesquisa que contou com a especial colaboração de Bianca Alves,<br />
Fernanda Filgueiras e Regina Queiroz Medeiros Carneiro, a quem os autores agradecem. Também registram seu<br />
reconhecimento a Celina Vargas do Amaral Peixoto, Diretora de Desenvolvimento Local do SEBRAE/RJ, cujo estímulo,<br />
inclusive material, foi fundamental para a realização do trabalho<br />
** Professores da Escola Brasileira de Administração Pública (EBAP) da Fundação Getulio Vargas<br />
1
Por outro lado, os benefícios que podem ser obtidos com a melhoria da qualidade da gestão pública (ou<br />
gestão de programas sociais, mais genericamente) não são triviais, já que as evidências de desperdícios<br />
nessa área são devastadoras.<br />
Assim, segundo Cohen e Franco, apenas um dólar de cada 7.83 gastos em programas sociais chegava,<br />
em 1987, aos 20% pior colocados na distribuição de renda do Chile. 1 Ainda segundo esses autores, um<br />
informe confidencial doe um organismo internacional afirmava, a respeito de outra nação da região,<br />
que a supressão de todos os programas sociais em execução não provocaria nenhuma mudança nas<br />
condições de vida dos 50% mais pobres. 2<br />
Ora, se melhorar o desempenho passa a ser um desafio crucial e urgente dos dirigentes públicos, um<br />
passo preliminar nessa direção é a criação de procedimentos e instrumentos que permitam a<br />
avaliação sistemática e continuada dos órgãos, programas e políticas públicas. Ou seja, a avaliação<br />
pode ter o papel de uma bússola para enfrentar o desafio gerencial de melhorar o desempenho:<br />
permitirá ao dirigente saber onde está, que rumo está seguindo atualmente e se alguma mudança de rota<br />
é necessária para alcançar os objetivos estabelecidos.<br />
O presente trabalho dá conta dos primeiros resultados de uma pesquisa orientada para o<br />
desenvolvimento de uma metodologia de avaliação de programas e ações empreendidas pelo Serviço<br />
de Apoio à Pequena e Média Empresa no Rio de Janeiro (SEBRAE-RJ), voltadas para a geração de<br />
emprego e renda, realizada pelos autores por intermédio da Fundação Getulio Vargas, através da<br />
Escola Brasileira de Administração Pública - EBAP. Programas dessa natureza têm adquirido<br />
importância crescente no âmbito das políticas governamentais voltadas para a redução das<br />
desigualdades sociais. Isto se deve, por um lado, à própria penúria fiscal do Estado que limita a<br />
capacidade de oferecer políticas mais explicitamente compensatórias e, por outro, à crescente<br />
consciência de que ações compensatórias devam ser substituídas por outras que utilizem o potencial<br />
empreendedor e a iniciativa dos próprios cidadãos, que os torne economicamente independentes pelos<br />
seus próprios esforços e que sejam, ao mesmo tempo, mais sustentáveis. A ação do Estado deveria ser<br />
então, como no caso do SEBRAE-RJ, auxiliar na capacitação do cidadão para realizar, com mais<br />
eficácia, esse potencial empreendedor.<br />
Se a dificuldade de avaliar programas sociais já é bastante conhecida e freqüentemente discutida, medir<br />
os efeitos de programas de apoio à geração de emprego e renda é uma tarefa ainda mais desafiadora,<br />
tanto metodologicamente como em termos prático. Daí o propósito do trabalho de desenvolver uma<br />
metodologia para avaliação desses programas, testando-a em alguns casos reais identificados junto<br />
como SEBRA-RJ.<br />
O presente trabalho é composto de quatro partes, incluindo esta introdução. Na segunda parte, é<br />
apresentada a metodologia desenvolvida para a avaliação dos programas selecionados, quando se<br />
discute as dimensões que se pretende avaliar, as variáveis e indicadores desenvolvidos e os<br />
instrumentos utilizados para sua aplicação. Na terceira, apresenta-se a amplitude da pesquisa de campo<br />
realizada, bem como um perfil sucinto da população pesquisada. Já a terceira concentra as principais<br />
constatações e resultados obtidos na avaliação. A quarta parte é destinada às conclusões, que se referem<br />
tanto à análise da adequação e eficácia da metodologia de avaliação proposta, quanto à identificação de<br />
1 Cohen, Ernesto e Franco, Rolando. Racionalizando as políticas sociais na América Latina: o papel da gestão. In: Gestión y<br />
análisis de políticas públicas. Madrid: Inap, enero/abril, nº 2, pp. 101-8 (essa informação os autores citam de Haindl,<br />
Buvinic e Irarrazaval, 1989).<br />
2 Op. Cit. P. 63.<br />
2
constatações e resultados da pesquisa de campo que possam ser de utilidade gerencial e subsidiar<br />
ações ou reflexões da direção do SEBRAE-RJ e de todo o seu corpo gerencial e funcional.<br />
2 - A METODOLOGIA <strong>DE</strong> <strong>AVALIAÇÃO</strong> PROPOSTA<br />
A definição do que seja avaliação parece ser quase consensual. De acordo, com a UNICEF 3 , por<br />
exemplo, trata-se do exame sistemático e objetivo de um projeto ou programa, finalizado ou em curso,<br />
que contemple o seu desempenho, implementação e resultados, com vistas à determinação de sua<br />
eficiência, efetividade, impacto, sustentabilidade e a relevância de seus objetivos. O propósito da<br />
avaliação é o de guiar os tomadores de decisão, orientando-os quanto à continuidade, necessidade de<br />
correções ou mesmo suspensão de uma determinada política ou programa.<br />
Se a avaliação é uma forma de mensurar o desempenho de programas, é necessário definir medidas<br />
para a aferição do resultado obtido. Essas medidas são denominadas de critérios de avaliação e nesse<br />
ponto se encerra o consenso sobre aspectos conceituais e metodológicos no campo da avaliação de<br />
programas ou políticas públicas, dando lugar ao que se poderia chamar de um autêntico “emaranhado<br />
conceitual”, o qual representa, por si mesmo, um obstáculo ao uso mais freqüente dessa ferramenta<br />
gerencial no setor público. Embora se associe normalmente a avaliação de desempenho à mensuração<br />
de eficiência na gestão de programas públicos, este não é, evidentemente, o único e, eventualmente,<br />
nem o mais importante critério a ser utilizado na avaliação, podendo ser citados também os critérios de<br />
Eficácia, Impacto, Sustentabilidade, Satisfação do beneficiário e Equidade, entre outros. 4<br />
A aplicação desses critérios descritos requer, por seu turno, formas específicas de operacionalização, já<br />
que se trata, obviamente, de medidas indiretas, ou seja, que devem ser calculadas a partir da<br />
identificação e quantificação dos resultados obtidos. Em geral, denomina-se essa outra categoria de<br />
medidas de indicadores ou, mais especificamente, indicadores sociais. Aqui também encontramos uma<br />
variedade de formas de definir e utilizar essa medida, dependendo da área em que se situa o programa<br />
e do propósito da avaliação. 5 A avaliação do desempenho de um programa requer, ainda, que se defina<br />
padrões de referência para julgar esse desempenho.<br />
Uma metodologia de avaliação de programas sociais envolve, então, a escolha de um conjunto de<br />
critérios e o uso de um elenco de indicadores (ou outras formas de mensuração) consistentes com os<br />
critérios escolhidos e que permitam efetuar um julgamento continuado e eficaz acerca do desempenho<br />
de um programa ou conjunto de programas, mediante o confronto com os padrões de desempenho<br />
anteriormente estabelecidos.<br />
Permanece, todavia, uma questão crucial e preliminar: o que avaliar? Segundo Donald Kettl, o desenho<br />
de um programa público ou a ação de uma agência governamental pode ser sintetizado na seguinte<br />
sequência de definições:<br />
3 Cf. UNICEF. Guide for monitoring and evaluation. New York, 1990.<br />
4 Uma discussão detalhada desse “emanharado” conceitual, bem como uma proposta de de metodologia para aplicação num<br />
programa social para o município do Rio de Janeiro podem ser encontrados em LUSTOSA DA COSTA, Frederico &<br />
CASTANHAR, José Cezar. Avaliação de Programas Sociais: limites e possibilidades. Paper apresentado no 22° Encontro<br />
Nacional da ANPAD, em Foz de Iguaçu, ANPAD, de 27 a 30 de setembro de 1998.<br />
5 Op.cit., pp. 5-6; uma tentativa de sistematizar a discussão sobre indicadores podem ser encontrada em Rob Vos em Hacia<br />
un sistema de indicadores sociales, BID/IN<strong>DE</strong>S, 1993.<br />
3
MISSÃO METAS OBJETIVOS 6<br />
A aferição do desempenho, por seu turno, pode se referir aos resultados dos programa, que mediria o<br />
alcance da missão ou nos produtos gerados pela implementação dos programas<br />
As experiências de avaliação de programas podem ser agrupadas, para fins analíticos, em três<br />
metodologias básicas, que se descrevem a seguir 7 .<br />
a) Avaliação de Metas (ou de produção, ou de produtos)<br />
É o tipo mais tradicional e tem como propósito medir o grau de êxito que um programa obtém com<br />
relação ao alcance de metas previamente estabelecidas. Entende-se como metas do programa os<br />
produtos mais imediatos (ou concretos) que dele decorrem – pessoas atendidas em centros de saúde;<br />
número de leitos hospitalares; número de horas de aula, dentre outras.<br />
Essa modalidade de avaliação pressupõe que se atribuam valores a um conjunto de metas, definindo-se<br />
o êxito relativo do programa em função do grau em que tais metas tenham sido cumpridas. Trata-se,<br />
portanto, de uma avaliação ex-post facto, ou seja, requer que o programa (ou uma etapa do mesmo)<br />
tenha sido concluído para se poder avaliá-lo.<br />
Entre as principais limitações desse tipo de avaliação, pode-se citar: a) a dificuldade de especificar as<br />
metas de forma precisa; b) a existência de metas múltiplas; c) a seleção de metas a serem incluídas no<br />
processo de avaliação; d) mudanças nas metas ao longo da própria execução do programa.<br />
b) Avaliação de Impacto (alcance do propósito ou missão)<br />
A avaliação de impacto procura identificar os efeitos produzidos sobre uma população alvo de um<br />
programa social. Busca-se verificar não apenas se as atividades previstas foram executadas, como<br />
também se os resultados finais que se esperavam foram igualmente alcançados. O foco desse tipo de<br />
estudo é, em síntese, detectar mudanças nas condições de vida de um grupo-alvo ou de uma<br />
comunidade, como resultado de um programa e em que medida as mudanças ocorreram na direção<br />
desejada.<br />
O problema central a investigar nesse caso é a efetividade do programa e, para conseguir esse<br />
intento, se recorre a mecanismos que permitam estabelecer relações causais entre as ações de um<br />
programa e o resultado final obtido. O objetivo desse tipo de avaliação pode ser definido como sendo o<br />
de identificar os efeitos líquidos de uma intervenção social. À semelhança da avaliação de metas,<br />
descrita anteriormente, essa abordagem é realizada após o encerramento do programa ou de etapas do<br />
mesmo.<br />
c) Avaliação de Processos<br />
Essa modalidade de avaliação investiga de forma sistemática o desenvolvimento de programas sociais<br />
com o propósito de:<br />
- medir a cobertura do programa social;<br />
- estabelecer o grau em que o mesmo está alcançando a população beneficiária;<br />
- e, principalmente, acompanhar seus processos internos.<br />
6 Kettl, Donald, op. Cit., pp. 87-92. Outros autores poderão hierarquizar de outra maneira essa seqüência de agregação de<br />
compromissos, colocando depois da missão (ou propósito), os objetivos e só em seguida as metas, como preferimos adotar<br />
aqui..<br />
7 Essa classificação é proposta por SULBRANDT, José. “La evaluacion de los programas sociales: una perspectiva crítica<br />
de los modelos usuales”. In KLIKSBERG, Bernardo (org.). Pobreza: un tema impostergable. México, Fondo de Cultura<br />
Economica, 1993.<br />
4
Seu objetivo é detectar possíveis defeitos na elaboração dos procedimentos, identificar barreiras e<br />
obstáculos à sua implementação e gerar dados importantes para sua reprogramação, através do registro<br />
de eventos e de atividades. Assim, o uso adequado das informações produzidas durante o<br />
desenvolvimento do programa permite introduzir mudanças no seu conteúdo durante a própria<br />
execução. Ao contrário, portanto, dos enfoques anteriores, essa modalidade de avaliação se realiza<br />
simultaneamente com o desenvolvimento do programa, sendo também chamado de avaliação<br />
formativa.<br />
Normalmente, o uso regular e continuado da avaliação fica restrito à produção, pela facilidade de obter<br />
as informações necessárias. 8 Esse é o caso do SEBRAE-RJ que utiliza regularmente sistemas de<br />
informações gerenciais que tratam, em geral, de variáveis relacionados a produção (quantidade e<br />
financeira) e insumos (financeiros, materiais, pessoal, etc.).<br />
Parece claro, portanto, que a metodologia de avaliação a ser desenvolvida neste projeto deveria<br />
contemplar as outras duas dimensões, ou seja, processos e impacto. Embora a discussão conceitual<br />
sobre como expressar e como medir essas dimensões seja interminável, para efeito desse trabalho<br />
optou-se por definições simples e claras de ambos.<br />
Assim, por exemplo, para avaliar processos definiram-se variáveis do seguinte tipo:<br />
- qualidade da comunicação e padrão de articulação entre diferentes instâncias e níveis da instituição;<br />
- realização de parcerias com outras instituições e/ou com o setor privado;<br />
- qualificação dos funcionários;<br />
- qualidade do atendimento nos balcões;<br />
- avaliação do grau de satisfação dos clientes;<br />
- acompanhamento dos clientes após o aquisição de produtos e serviços<br />
- prática de planejamento.<br />
No que tange à mensuração do impacto, as variáveis definidas contemplaram aspectos como:<br />
- intenção de utilizar novamente os serviços do SEBRAE;<br />
- identificação das melhorias obtidas com o serviço utilizado;<br />
- qualidade do serviço utilizado;<br />
- conhecimento das ações do SEBRAE ( e de seu programa de geração de emprego e renda ) e de<br />
seus objetivos;<br />
- diferencial do SEBRAE em relação a instituições competidoras;<br />
- capacidade de identificar as potencialidades e demandas regionais e locais;<br />
- desempenho geral do SEBRAE (e de seu programa de geração de emprego e renda) , percebido<br />
pelos usuários.<br />
Os programas escolhidos foram o Programa de Geração de Emprego e Renda – PRO<strong>DE</strong>R - e as<br />
Agências de Desenvolvimento Regional – ADRs - do SEBRAE. Note-se que no caso das ADRs não se<br />
trata de um programa propriamente dito, mas sim de uma instância administrativa e gerencial, já que as<br />
ADRs têm a finalidade de planejar, coordenar e executar o conjunto das ações do SEBRAE em regiões<br />
determinadas. Neste sentido, a metodologia de avaliação das ADRs envolve, praticamente, o mesmo<br />
desafio da avaliação do próprio SEBRAE como um todo, pelo menos da sua atuação na execução dos<br />
serviços.<br />
8 Kettl, Donald, op. Cit., pp. 87-92.<br />
5
O passo seguinte foi selecionar quais das experiências do PRO<strong>DE</strong>R e quais ADRs seriam incluídas na<br />
pesquisa, já que os recursos e tempo previstos não contemplavam a avaliação de todo o universo. A<br />
direção do SEBRAE-RJ estabeleceu, então, que o trabalho deveria incluir quatro experiências de<br />
PRO<strong>DE</strong>R, a saber: PRO<strong>DE</strong>R do município de Cardoso Moreira; PRO<strong>DE</strong>R do município de São<br />
Fidélis; PRO<strong>DE</strong>R de Jurujuba, bairro do município de Niterói; e PRO<strong>DE</strong>R Rocinha, bairro no<br />
município do Rio de Janeiro. Na escolha desses quatro casos procurou-se contemplar a maior variedade<br />
de situações possíveis. Assim, o PRO<strong>DE</strong>R realizado em São Fidélis faz parte do PRO<strong>DE</strong>R Especial,<br />
realizado em parceria com o Programa Comunidade Ativa, do Governo Federal. Os PRO<strong>DE</strong>R de<br />
Cardoso Moreira e da Rocinha foram realizados utilizando-se uma nova metodologia, com a<br />
incorporação de alguns aspectos do PRO<strong>DE</strong>R Especial, como a constituição de fórum comunitário,<br />
sendo que o PRO<strong>DE</strong>R da Rocinha possui a especificidade de se realizar em um bairro de uma grande<br />
metrópole e não em municípios de pequenos porte. No PRO<strong>DE</strong>R realizado em Jurujuba foi utilizada a<br />
antiga metodologia, da qual não fazia parte a constituição de fóruns comunitários.<br />
No que toca às ADRs, acertou-se que a pesquisa de campo incluiria três casos, a saber: ADR Norte<br />
(região de Campos), ADR Metropolitana III (região de Niterói) e ADR Metropolitana Zona Sul (parte<br />
do município do Rio de Janeiro). Também aqui a escolha dos casos a serem pesquisados buscou<br />
assegurar uma razoável variedade de situações, já que as ADRs escolhidas têm no seu âmbito regional<br />
desde os maiores municípios do Estado (como o Rio de Janeiro e Niterói) como municípios de porte<br />
médio, próximos e distantes das regiões metropolitanas (como Campos e São Gonçalo) até pequenos<br />
municípios, próximos ou distantes das regiões metropolitanas (como Rio Bonito e Cardoso Moreira).<br />
2.1 – Operacionalização da Metodologia<br />
Tendo em vista a dificuldade para estabelecer-se e mensurar-se indicadores objetivos para a avaliação<br />
de Impactos e Processos optou-se por operacionalizar a metodologia de avaliação proposta através da<br />
percepção dos atores envolvidos. O primeiro passo foi, então, identificar esses atores.<br />
Assim, para as ADRs, identificou-se o seguinte conjunto de atores relevantes no desenvolvimento de<br />
suas atividades:<br />
Gerente da ADR<br />
Clientes<br />
Representantes da Sociedade (Secretários Municipais, Dirigentes de entidades de classe, lideranças<br />
empresariais locais, etc.)<br />
Pessoas físicas ou jurídicas que não tenham utilizado os serviços do SEBRAE<br />
Pessoas físicas ou jurídicas que já tenham usado os serviços do SEBRAE<br />
Pessoal Operacional<br />
Funcionários da ADR<br />
Funcionários de Balcões da ADR<br />
Pessoal da Sede (Planejamento, Apoio e Controle)<br />
Gerentes de Produtos da SE<strong>DE</strong><br />
Já para o PRO<strong>DE</strong>R os atores que foram identificados para participar do processo de avaliação foram:<br />
Clientes<br />
Usuários dos serviços do SEBRAE via ação do SEBRAE<br />
Pessoas Físicas ou Jurídicas que nunca utilizaram os serviços do SEBRAE via ação do PRO<strong>DE</strong>R<br />
Membros do Fórum<br />
6
Pessoal Operacional<br />
Capacitadores<br />
Funcionário do Balcão responsável pelo PRO<strong>DE</strong>R<br />
Consultores<br />
Pessoal da Sede (Planejamento, Apoio e Controle)<br />
Equipe do PRO<strong>DE</strong>R da Sede<br />
Gerentes de Produtos da SE<strong>DE</strong><br />
Preparou-se, então, uma série de questionários para serem aplicados a cada grupo mencionado<br />
anteriormente. Estes questionário por seu turno, eram constituídos de perguntas que tinham como<br />
propósito avaliar a percepção dos respondentes sobre as variáveis que se estava pretendendo mensurar.<br />
Os questionários traziam perguntas fechadas, com respostas definidas em uma escala de preferências<br />
(escala de Likert), que permitiram sua tabulação e a análise quantitativa dos resultados.<br />
Dois exemplos ajudam a compreender melhor o mecanismo. Na avaliação das ADRs o questionário<br />
aplicado aos usuários dos produtos do SEBRAE continha a seguinte afirmação:<br />
“a qualidade do serviço utilizado atendeu às minhas expectativas”<br />
solicitando-se ao respondente que desse uma nota de 1 a 5, onde a nota 1 indicava que o mesmo<br />
discordava totalmente da afirmação e a nota 5 indicava que o mesmo concordava totalmente com a<br />
mesma.<br />
Na avaliação dos PRO<strong>DE</strong>R, propunha-se aos membros do Fórum a seguinte afirmação:<br />
“após o término dos encontros de capacitação sinto-me mais preparado para elaborar projetos e<br />
identificar fontes de financiamento”<br />
da mesma maneira, solicitava-se ao respondente que desse uma nota de 1 a 5, sendo que a nota 1<br />
representava sua total discordância com a afirmação e a nota 5 sua total concordância.<br />
No total, portanto, foram utilizados 6 questionários para a avaliação das ADRs e 8 questionários para a<br />
avaliação dos PRO<strong>DE</strong>R. O número de perguntas de cada questionário variava bastante, já que<br />
diferentes respondentes estavam envolvidos em diferentes aspectos do programa que se estava<br />
avaliando e em diferentes graus de profundidade. Em geral o número maior de perguntas eram feitas<br />
aos usuários do processo (usuários de serviços, membros do fórum). Além disso, vários questionários<br />
continham uma pergunta aberta que permitia ao respondente emitir opiniões, fazer comentários ou<br />
recomendações. As perguntas abertas favorecem uma análise da compreensão que esses mesmos<br />
agentes têm da apreciação que oferecem e permitem colher especificações, precisões e sugestões,<br />
enriquecendo a análise qualitativa.<br />
Embora os 14 questionários aplicados envolvessem cerca de uma centena de perguntas, estas podem<br />
ser agrupadas de acordo com a sua finalidade, na metodologia de avaliação, conforme mostrado na<br />
tabela I, a seguir.<br />
Cabe mencionar que a opção metodológica adotada neste trabalho é amplamente utilizada em pesquisas<br />
em que se busca avaliar o impacto de programas ou o progresso (ou estágio) de processos de mudanças<br />
gerenciais. Pode-se citar, por exemplo, estudos realizados na administração pública americana para<br />
7
avaliar o grau de disseminação e adoção das medidas de reforma administrativa 9 . No Brasil, pode-se<br />
citar o trabalho de avaliação realizado pela Universidade Federal do Rio Grande do Sul para o próprio<br />
SEBRAE, utilizando metodologia semelhante 10 .<br />
Embora possa se alegar que essa metodologia envolva inevitavelmente um componente subjetivo,<br />
argumenta-se que, por uma lado, essa avaliação subjetiva pode ser útil e esclarecedora, especialmente<br />
quando se trata de avaliar serviços e produtos oferecidos ao público (clientes) e, por outro, dada a<br />
dificuldade de se mensurar objetivamente o impacto de determinados programas, essa alternativa é a<br />
única disponível, na prática, para dotar a gerência de um balizamento estratégico sobre o alcance e<br />
efetividade de suas ações.<br />
TABELA I<br />
OBJETIVOS DAS PERGUNTAS INCLUÍDAS NO INSTRUMENTO APLICADO<br />
(QUESTIONÁRIO/ENTREVISTA)<br />
1) Traçar o perfil dos usuários<br />
2) Avaliar o desempenho de atores específicos<br />
3) Avaliar o envolvimento e comprometimento de lideranças locais<br />
4) Avaliar a capacidade de comunicação, articulação e coordenação entre diferentes instâncias<br />
(internas e externas ao SEBRAE)<br />
5) Avaliar a qualificação e desempenho dos funcionários e das gerências<br />
6) Identificar o tipo de serviço utilizado<br />
7) Avaliar a qualidade do atendimento<br />
8) Avaliar a qualidade de produtos e serviços<br />
9) Identificar o impacto dos serviços utilizados<br />
10) Avaliar a eficácia das ADRs<br />
11) Avaliar a qualidade e a eficácia do processo de capacitação do PRO<strong>DE</strong>R<br />
12) Avaliar o grau de conhecimento que a população tem do SEBRAE e do PRO<strong>DE</strong>R e de seus<br />
objetivos<br />
13) Avaliar a qualidade geral do PRO<strong>DE</strong>R<br />
14) Avaliar a qualidade geral do SEBRAE<br />
9 Jeffrey L. Brudney, F. Ted Hebert, Deil S. Wright. Reinveinting Governement in the America Satates, Measuring and<br />
Explaing Administrative Reform. Public Adminstration Review. January/February 1999, vol. 59, n. 1. Robert Jay Dilger,<br />
Randdph . Moffett, Linda Struyk. Privatization of Municipal Services in Americas Largest Cities. Public Adminstration<br />
Review. January/February 1997, vol. 57, n. 1.<br />
10 “Indice de Eficácia Percebida dos Produtos do SEBRAE-RS”, mimeo, Porto Alegre, Janeiro 1999.<br />
8
2.2 - AMPLITU<strong>DE</strong> E ESCOPO DA PESQUISA <strong>DE</strong> CAMPO<br />
Como mencionado no item anterior, a metodologia de avaliação proposta repousa na aplicação de<br />
questionários e realização de entrevistas com os atores envolvidas no planejamento e execução dos<br />
produtos e serviços do SEBRAE, bem como com os usuários atuais e potenciais desses serviços. A<br />
avaliação requer, portanto, a realização de uma ampla e detalhada pesquisa de campo para consultar<br />
todos esses atores. Neste item do relatório, discute-se de forma resumida a metodologia utilizada nesta<br />
pesquisa, bem como se apresenta um sumário estatístico do trabalho realizado.<br />
Para definição da quantidade de pessoas que seriam entrevistadas, trabalhou-se com três critérios<br />
distintos. Para os respondentes que poderiam ser identificados individualmente, como por exemplo,<br />
gerentes, funcionários de ADRs e balcões, capacitadores, Consultores, gerentes de produtos, membros<br />
do fórum, equipe do PRO<strong>DE</strong>R da sede, buscou-se aplicar o questionário, sempre que possível ao<br />
universo. Para os respondentes que faziam parte de populações demasiadamente grandes, como os<br />
usuários de serviços do SEBRAE ou usuários potenciais desses serviços, selecionou-se uma amostra<br />
que fosse estatisticamente significante. 11 Finalmente, para os representantes da sociedade, selecionouse,<br />
sem o rigor de significância estatística, entre aqueles que respondem por instituições com os quais o<br />
SEBRAE se relaciona (predominantemente lideranças políticas e empresariais).<br />
Foram aplicadas questionários (em alguns casos complementados com entrevistas) a 933 respondentes<br />
sobre as ADRs 12 . Já para a avaliação das quatro experiências de PRO<strong>DE</strong>R incluídas no trabalho,<br />
aplicou-se um total de 440 questionários 13 . A pesquisa de campo realizada, envolveu, portanto, a<br />
aplicação de 1373 questionários (além de entrevistas).<br />
2.3 – Perfil dos Usuários Pesquisados<br />
Uma informação interessante que a pesquisa de campo permitiu obter, embora não relacionada<br />
diretamente à avaliação, diz respeito ao perfil dos usuários dos serviços das ADRs e dos participantes<br />
do PRO<strong>DE</strong>R, no que toca ao seu ramos de atividade e relação de trabalho atual. Uma informação desse<br />
tipo pode ser de utilidade, quando combinada com os outros dados da avaliação, para o planejamento<br />
da ação do SEBRAE no que toca a: 1) tipo de serviço e produto a ser oferecido; 2) formas de<br />
divulgação; 3) capacitação de funcionários diferenciada por região; dentre outros aspectos.<br />
A tabela II mostrada a seguir apresenta esse perfil para os usuários de serviços e produtos das ADRs.<br />
11 A amostra para cada segmento da população foi calculada estabelecendo-se uma margem de erro de 10% e um nível de<br />
significância de 95%; assim, em nenhum caso a amostra foi inferior a 120 pessoas pesquisadas.<br />
12 Neste caso, considera-se que os gerentes de produto responderam a questionários distintos para cada ADR, contando-se,<br />
portanto, 33 questionários aplicados aos 11 gerentes.<br />
13 No caso dos PRO<strong>DE</strong>R os gerentes de produtos responderam a apenas um questionário, já que estavam avaliando a equipe<br />
do PRO<strong>DE</strong>R da sede e não cada experiência isoladamente.<br />
9
TABELA II<br />
PERFIL DOS USUÁRIOS <strong>DE</strong> PRODUTOS E SERVIÇOS DAS ADRs<br />
QUANTO AO RAMO <strong>DE</strong> ATIVIDA<strong>DE</strong><br />
ADR COMÉRCIO E<br />
SERVIÇOS<br />
INDÚSTRIA RURAL<br />
Norte 84% 8,70% 3.6%<br />
Metrop. III 85% 9% 1%<br />
Zona Sul 91.3% 8% 0%<br />
QUANTO A RELAÇÃO <strong>DE</strong> TRABALHO INFORMADA<br />
NATUREZA DA<br />
RELAÇÃO<br />
NORTE METROP. III ZONA SUL<br />
Vínculo Empegatício 31.9% 32% 20.3%<br />
Autônomo* 13% 25% 31.9%<br />
Empresário 50% 24% 34%<br />
Sem ocupação no momento 2.9% 11% 5.8%<br />
* inclui atividade no setor informal<br />
Os dados da tabela anterior comprovam de forma inequívoca que a atuação do SEBRAE se destina, de<br />
forma esmagadora, a atender os setores urbanos da economia, uma vez que, mesmo na ADR Norte, em<br />
que a atividade rural tem maior importância, menos de 4% dos usuários dos serviços e produtos do<br />
SEBRAE atuam nesse setor da economia. E das atividades urbanas, constata-se, igualmente, uma<br />
enorme concentração em Comércio e Serviços. Cabe à direção da instituição examinar esse tipo de<br />
informação e refletir sobre a mesma. Inegavelmente, a tradição do SEBRAE é de uma agência de apoio<br />
a atividades econômicas urbanas e com ênfase em comércio e serviço. Esse traço certamente era<br />
esperado ser mais acentuado num estado com forte concentração urbana como o Rio de Janeiro.<br />
Entretanto, quando se discute questões estratégicas para o desenvolvimento do país como a<br />
globalização e o papel das pequenas e médias empresas no esforço de exportação do país e de sua<br />
integração na economia internacional globalizada, cabe refletir se essa “vocação” da instituição deve<br />
ser mantida, ou, se mantida, se com o grau de concentração observado atualmente. É desejável que o<br />
SEBRAE faça esforços estratégicos para atuar mais intensamente nos setores industrial e rural? Em<br />
caso positivo, qual deve ser o esforço e as mudanças necessárias para se realizar uma mudança desse<br />
tipo?<br />
Esses comentários, antes de pretenderem ser sugestões de mudanças na estratégica da instituição, visam<br />
a ressaltar a importância que podem ter para o processo gerencial as informações obtidas nos processos<br />
metódicos de avaliação, ainda que se trate de uma informação simples e universal, como o perfil dos<br />
usuários da instituição. Modernamente, quando o compromisso com a qualidade é uma premissa de<br />
eficácia gerencial e empresarial, cabe lembrar que se o beneficiário final (e mais importante) dessa<br />
qualidade é o cliente, um passo preliminar, portanto, é saber quem é o cliente.<br />
Acerca da relação de trabalho, obtém-se também informações úteis para o processo gerencial e, ao<br />
mesmo tempo, uma confirmação das diferenças sócio-econômicas entre regiões. Assim, observa-se a<br />
predominância de empresários entre os usuários do SEBRAE na ADR Norte. Na ADR da Zona Sul, já<br />
se observa um expressiva participação de autônomos e de participantes da economia informal entre os<br />
clientes do SEBRAE. Já na ADR Metropolitana III (Niterói e região), observa-se uma freqüência maior<br />
entre os clientes de pessoas que estão desempregadas. Mais uma vez essas são informações importantes<br />
10
para avaliar se o portfólio de produtos oferecidos e as estratégias de divulgação e distribuição adotadas<br />
estão adequadas para o perfil de usuários.<br />
Uma tabulação semelhante foi feita com os dados obtidos da pesquisa de campo de usuários do<br />
PRO<strong>DE</strong>R, os quais são mostradas na tabela III, a seguir.<br />
TABELA III<br />
PERFIL DOS USUÁRIOS <strong>DE</strong> PRODUTOS E SERVIÇOS DOS PRO<strong>DE</strong>R<br />
RAMO <strong>DE</strong> ATIVIDA<strong>DE</strong><br />
RAMO <strong>DE</strong><br />
ATIVIDA<strong>DE</strong><br />
ROCINHA C. MOREIRA S. FIDÉLIS JURUJUBA<br />
Comércio<br />
Serviços<br />
e 91% 0% 27% 58.5%<br />
Indústria 3% 0% 9% 0%<br />
Rural 0% 0% 63% 33.5%<br />
Não<br />
responder<br />
soube 5,5% 100% 0% 8%<br />
RELAÇÃO <strong>DE</strong> TRABALHO<br />
RELAÇÃO <strong>DE</strong><br />
TRABALHO<br />
ROCINHA C.MOREIRA S.FIDÉLIS JURUJUBA<br />
Vínculo<br />
Empregatício<br />
12.2% 0% 27% 42%<br />
Autônomo* 41% 0% 18% 50%<br />
Empresário 3.3% 0% 55% 0%<br />
Sem ocupação 42.2% 100% 0% 8%<br />
no momento<br />
* inclui atividade no setor informal<br />
No caso do PRO<strong>DE</strong>R , a informação obtida reflete as próprias características do programa definido<br />
para cada localidade. Assim, em São Fidélis, onde o serviço oferecido pelo PRO<strong>DE</strong>R foi um programa<br />
de capacitação rural, observa-se uma maior concentração de clientes cujo ramo de atividade é o setor<br />
rural. Já num programa mais tipicamente urbano, como o da Rocinha, volta-se a ter grande<br />
concentração em atividades de comércio e serviço. O PRO<strong>DE</strong>R de Jurujuba, por seu turno, que envolve<br />
tanto atividade extrativa, quanto de comercialização, já tem a distribuição por ramos de atividade mais<br />
equilibrada. Cabe notar que, no caso de Cardoso Moreira, no qual o programa se destinava a criar uma<br />
cooperativa de costureiras, estas não souberam identificar a sua atuação (ou experiência) profissional<br />
com um determinado ramo de atividade. Mas pela natureza é razoável classificá-las como Comércio e<br />
Serviço e, dependendo da evolução do programa, até como indústria.<br />
No que toca ao vínculo empregatício observa-se aqui uma grande freqüência de pessoas sem ocupação<br />
no momento (desempregados), o que também não é surpreendente já que o programa, tendo como<br />
propósito gerar emprego e renda, com freqüência vai beneficiar comunidades mais carentes em termos<br />
econômicos e sociais, onde o nível de desemprego tende a ser alto. Por outro lado, observa-se que em<br />
São Fidélis, onde o programa beneficia predominantemente moradores do setor rural, o nível de<br />
desemprego entre os usuários é bem menor. Finalmente, no que toca a Jurujuba, que é de todos os<br />
programas analisados o mais antigo e mais consolidado, constata-se um baixo índice de pessoas que se<br />
declaram desempregadas. É importante ressaltar que todos os beneficiados com os serviços do<br />
11
SEBRAE em Jurujuba já trabalhavam com a pesca de mexilhões. Assim, os impactos gerados dizem<br />
respeito principalmente à melhora da qualidade dos serviços prestados e a acréscimos de renda e não<br />
propriamente à geração de ocupações. Avaliações realizadas em um mesmo programa mas em<br />
diferentes momentos podem revelar grandes diferenças de impacto e apontar para pontos de<br />
constrangimento. Deriva daí a importância de se contar com uma metodologia de avaliação adequada e<br />
que seja realizada sistematicamente.<br />
3 - <strong>AVALIAÇÃO</strong>: EVIDÊNCIAS DA PESQUISA <strong>DE</strong> CAMPO<br />
Embora a pesquisa de campo prevista neste trabalho tivesse o objetivo prioritário de testar a<br />
consistência da metodologia de avaliação proposta e verificar a necessidade de ajustes para o seu uso<br />
contínuo no futuro, a verdade é que as informações colhidas nesse processo constituem um rico acervo<br />
de informações sobre as várias dimensões que foram objeto da avaliação: processos, imagem do<br />
SEBRAE-RJ, eficácia percebida, impactos etc. Este item do relatório é destinado a um exame dessas<br />
informações, no qual se procura, mais do que simplesmente apresentar e descrever as evidências<br />
recolhidas, estabelecer conexões entre essas evidências e possíveis causas e conseqüências das mesmas,<br />
por uma lado, e, por outro, refletir sobre possíveis ações gerenciais que poderiam ser indicadas a partir<br />
dessas evidências. Cabe lembrar que tal processo, deve ser a finalidade mesma da avaliação como parte<br />
da atividade e das responsabilidades gerenciais.<br />
3.1 – Serviços do SEBRAE utilizados pelos clientes<br />
Ainda que de caráter descritivo, os dados da tabela IV, mostrada a seguir, encerram uma informação<br />
gerencial de caráter estratégico: qual é o tipo de serviço que os usuários do SEBRAE-RJ compram?<br />
Existem diferenças significativas entre as regiões? Vejamos o que nos mostra as informações colhidas<br />
na pesquisa.<br />
TABELA IV<br />
SERVIÇOS DO SEBRAE MAIS UTILIZADOS PELOS USUÁRIOS<br />
CLIENTES DAS ADRS<br />
SERVIÇO ADR NORTE ADR METR.III ADR ZONA SUL<br />
Treinamento 68% 71% 43.5%<br />
Consultoria 2.9% 11% 22.5%<br />
Feira 6.5% 1% 1.45%<br />
Publicações 0% 1% 2.9%<br />
Outros e Treinamento 18.8% 9% 13.8%<br />
CLIENTES DO PRO<strong>DE</strong>R<br />
SERVIÇO ROCINHA C.MOREIRA S.FIDÉLIS JURUJUBA<br />
Treinamento 99% 100% 82% 100%<br />
Consultoria 0% 0% 18% 0%<br />
O exame dos dados da tabela citada mostra, mais uma vez, que a análise das informações obtidas com<br />
usuários das ADRs tem uma lógica totalmente distinta daquelas dos usuários do PRO<strong>DE</strong>R, pelas razões<br />
já citadas no item anterior. Os clientes das ADRs apresentam uma diversidade maior do que os do<br />
PRO<strong>DE</strong>R tendo em vista que este último define previamente uma população a ser atendida, bem como<br />
a instrumento a ser utilizado. Como se observa no item 2 da tabela IV, o instrumento<br />
predominantemente usado no PRO<strong>DE</strong>R é o treinamento. Apenas excepcionalmente, como no caso do<br />
PRO<strong>DE</strong>R de São Fidélis, em que a própria natureza do curso ensejou a oportunidade de oferta de um<br />
12
outro serviço (no caso consultoria em agro-negócios), o serviço utilizado fica restrito a treinamento.<br />
Esses dados sugerem algumas indagações interessantes: Em que medida o padrão observado em São<br />
Fidélis poderia também ter sido replicado em outros PRO<strong>DE</strong>R? Houve uma articulação adequada entre<br />
a equipe do PRO<strong>DE</strong>R e os gerentes de projeto para se oferecer uma “cesta” mais ampla de produtos?<br />
Mais a frente neste relatório, voltaremos a este ponto quando analisarmos as avaliações realizadas pela<br />
Equipe do Proder e pelos Gerentes de Produto.<br />
Quando se examina o item 1 da tabela IV, a participação do treinamento nos serviços demandados<br />
pelos usuários não é tão esmagadora como no PRO<strong>DE</strong>R, mas é igualmente predominante. O item<br />
treinamento, isoladamente, representa mais de 2/3 dos serviços utilizados pelos clientes das ADRs<br />
Norte e Metropolitana III e mais de 40% na ADR Zona Sul. Quando se une a participação do serviço de<br />
treinamento junto com outro tipo de serviço (consultoria, publicação e feira) essa participação sobe<br />
para mais de 86% na ADR Norte, para 80% na Metropolitana III e para mais de 57% na Zona Sul.<br />
Depois desse serviço, o único que apresenta alguma relevância é o de consultoria, representando 11%<br />
do serviço demandado pelos clientes da ADR Metropolitana III e mais de 22% na ADR Zona Sul.<br />
Esses dados já ensejam algumas reflexões interessantes sobre a estratégia e a forma de atuação do<br />
SEBRAE-RJ. De um lado, se o SEBRAE se mantiver como uma instituição predominantemente de<br />
treinamento, como parece ser o caso, tenderá a sofrer a concorrência cada vez maior de instituições que<br />
têm o seu foco no treinamento (como universidades e outras agência do governo – do próprio sistema<br />
S, como SENAI e SENAC - que têm se mostrado cada vez mais agressivas na disputa desse mercado).<br />
De outro, a manter essa situação o SEBRAE poderá estar desprezando o seu principal diferencial e<br />
vantagem competitiva que é justamente o fato de poder oferecer uma “cesta” variada de produtos,<br />
incluindo consultoria, e com foco no pequeno e médio empresário, aproveitando a sua enorme<br />
capilaridade e conhecimento da situação e do contexto que esses atuam. A esse respeito cabe citar<br />
alguns comentários colhidos durante as entrevistas realizadas. O primeiro do gerente da ADR<br />
metropolitana III que observa:<br />
Os dados obtidos e consolidados na tabela IV são evidências importantes da forma de atuação do<br />
SEBRAE e de seu ponto forte (a forte demanda pelos treinamentos que oferece), mas também<br />
sinalizam desafios e oportunidades de mudanças estratégicas que poderão fortalecer ainda mais a<br />
instituição no futuro. Neste caso, como em muitos outros que serão apresentados mais a frente, o<br />
grande desafio é analisar os dados obtidos com visão estratégica e tomar decisões sobre investimento e<br />
alocação de recursos (treinamento, desenvolvimento de novas produtos e mecanismos de distribuição,<br />
contratação de pessoas, divulgação etc.) com vistas a aproveitar as oportunidades e enfrentar os<br />
desafios que se apresentam.<br />
3.2 – Impacto dos Serviços Utilizados<br />
Embora a definição de impacto seja, como mencionado anteriormente, um conceito passível de<br />
discussão interminável, no que toca aos serviços e produtos vendidos pelo SEBRAE-RJ, não há dúvida<br />
que se espera que estes produzam alguma melhoria na situação dos clientes. Essa melhoria por seu<br />
lado, pode ser mais genérica (poder-se-ia dizer subjetiva) ou bem específica (objetiva e identificável).<br />
Com vistas a avaliar-se esse aspecto propôs-se aos usuários dos serviços do SEBRAE-RJ, tanto das<br />
ADRs como dos PRO<strong>DE</strong>R que indicassem qual (ou quais) benefício o serviço (ou serviços) que<br />
utilizou do SEBRAE teria produzido, dentre as seguintes alternativas:<br />
a) conseguir ocupação com carteira assinada<br />
b) conseguir ocupação no setor informal<br />
c) melhorar a renda apesar de continuar na mesma ocupação<br />
13
d) tornar-se autônomo<br />
e) abrir uma micro/pequena empresa<br />
f) aumentar o faturamento de micro/pequena empresa da qual faz parte<br />
g) participar de uma associação<br />
h) melhorar o desempenho no trabalho<br />
i) aumentar os conhecimentos<br />
j) não acrescentou nenhuma melhoria<br />
O usuário poderia indicar, em sua resposta, mais de uma das alternativas sugeridas. As tabelas V e VI,<br />
mostradas a seguir, resumem as respostas obtidas, respectivamente para os usuários de serviços e<br />
produtos das ADRs e usuários de serviços do SEBRAE via ação do PRO<strong>DE</strong>R.<br />
TABELA V<br />
IMPACTO DO SERVIÇO PRESTADO PELO SEBRAE – ADRs<br />
Impacto (o serviço do SEBRAE<br />
utilizado o levou a:)<br />
ADR Norte ADR Metrop.III ADR Zona Sul<br />
Conseguir ocupação com carteira<br />
assinada<br />
0% 0% 0%<br />
Melhorar a renda, apesar de 0% 0% 0%<br />
continuar na mesma ocupação<br />
Tornar-se autônomo ou conseguir<br />
ocupação no setor informal<br />
0% 0% 0%<br />
Abrir MPE 0.72% 0% 0%<br />
Aumentar faturamento de MPE da<br />
qual faz parte<br />
5.07% 0% 0%<br />
Aumentar conhecimento e/ou 66% 55% 68.1%<br />
melhorar desempenho no trabalho<br />
Melhorar a renda e aumentar 4.4% 7% 0.7%<br />
conhecimento<br />
Melhorar a renda, aumentar 10.9% 3% 4.4%<br />
conhecimento e melhorar<br />
desempenho no trabalho<br />
Melhorar a renda, aumentar 0.72% 7% 0%<br />
faturamento de MPE e melhorar<br />
desempenho no trabalho<br />
Abrir MPE, aumentar conhecimento<br />
e melhorar desempenho no trabalho<br />
0.72% 1% 2.9%<br />
Não acrescentou nenhuma 4.35% 7% 18.8%<br />
melhoria<br />
Note-se que a soma dos percentuais das colunas não resultou 100% porque numerosas outras<br />
combinações foram propostas pelos usuários, todas elas com percentuais pouco expressivos. O aspecto<br />
interessante que ressalta da análise da tabela anterior é o baixo percentual de usuários que identificam<br />
um benefício claro e objetivo resultante do uso do serviço do SEBRAE. De fato, considerando-se os<br />
quatro primeiros itens da tabela, que se referem a conseguir ocupação (formal ou informal), abrir MPE<br />
e melhorar a renda, apenas em dois casos houve um percentual diferente de zero (Metropolitana III,<br />
1% dos respondentes associando o serviço obtido a apenas melhoria de renda e na ADR Norte, em que<br />
14
0.72% associaram o serviço recebido a iniciativa de abrir MPE). Na verdade, o principal benefício<br />
associado pelos respondentes ao serviço adquirido ao SEBRAE-RJ é de natureza mais genérica e<br />
indireta, ou seja: aumentar conhecimento e melhorar desempenho.<br />
Por outro lado, como seria natural esperar, os usuários associam esse benefício mais geral e indireto a<br />
melhorias específicas e diretas, como se observa ao analisar as linhas seguintes da tabela. Assim, por<br />
exemplo, melhoria de renda associado a aumento de conhecimento obtido com o serviço adquirido foi<br />
um benefício identificado por cerca de 4% dos usuários de serviços da ADR Norte e por 7% na<br />
Metropolitana III. Já o aumento de faturamento de MPE, associado a aumento de conhecimento e<br />
melhoria de desempenho no trabalho, foram identificados como benefícios do serviço adquirido por<br />
mais de 10% dos usuários da ADR Norte, por 3% da Metropolitana III e por mais de 4% da ADR Zona<br />
Sul. Ainda na ADR Metropolitana III, 7% dos usuários entrevistados afirmaram que obtiveram<br />
melhoria de renda e aumento de faturamento de MPE, associados a melhoria do desempenho no<br />
trabalho.<br />
Um outro aspecto interessante é que, embora a maioria dos usuários não identifique um significativo<br />
benefício específico e imediato decorrente dos serviços prestados pelo SEBRAE-RJ, poucos<br />
consideram que o serviço prestado não acrescentou qualquer melhoria. De fato, nas ADRs Norte e<br />
Metropolitana III apenas 4.35% e 7%, respectivamente dos usuários afirmaram que o serviço prestado<br />
não acrescentou melhoria. Observa-se, entretanto, que na ADR Zona Sul esse número já é mais<br />
expressivo, alcançando quase 19% dos entrevistados.<br />
Esses dados sugerem dois tipos de reflexões. A primeira, mais abrangente, sobre a natureza e conteúdo<br />
dos serviços e produtos oferecidos pelo SEBRAE-RJ e sobre o impacto que se pretende produzir com<br />
os mesmos. Os dados obtidos indicam que esse impacto raramente é direto e objetivo, sendo antes mais<br />
genérico e indireto. Decorrem daí duas questões para exame da direção e do corpo gerencial: 1) “o<br />
SEBRAE deve esperar que sua ação gere benefícios diretos e específicos (melhoria de renda,<br />
obtenção de emprego ou ocupação etc.)?”; 2) “se o SEBRAE considerar esse resultado como um<br />
impacto esperado de sua ação, então quais os produtos e serviços mais adequados para obtê-lo?”. A<br />
segunda reflexão permitida pelos dados da tabela V, diz respeito ao desempenho diferenciado das três<br />
ADRs estudadas, principalmente sobre o índice muito mais alto de usuários que alegaram não ter<br />
obtido nenhuma melhoria com os serviços que recebeu. Cabe examinar o que provoca essa diferença:<br />
diferentes expectativas dos usuários? Diferenças nos contextos sócio-econômicos que cercam os<br />
usuários? Qualidade na execução dos serviços? Mais uma vez, a avaliação nos traz importantes<br />
desafios para serem enfrentados e valiosas informações para análise dos rumos da instituição e estilos<br />
de gerência. Questões como adequação dos produtos, forma de distribuição e execução, já mencionadas<br />
anteriormente, podem estar relacionadas aos resultados e diferenças encontrados.<br />
A tabela VI, apresentada a seguir, traz uma tabulação equivalente à anterior, para os dados do<br />
PRO<strong>DE</strong>R.<br />
15
TABELA VI<br />
IMPACTO DO SERVIÇO PRESTADO PELO SEBRAE – PRO<strong>DE</strong>R<br />
IMPACTO C.MOREIRA S.FIDÉLIS JURUJUBA ROCINHA<br />
Aumentar conhecimento e/ou 100% 82% 42.5% 11.1%<br />
melhorar<br />
trabalho<br />
desempenho no<br />
Melhorar renda 0% 18% 41.5%* 0%<br />
Aumentar<br />
MPE<br />
faturamento de 0% 0% 8%** 0%<br />
Abrir MPE 0% 0% 0% 74.43%***<br />
Conseguir ocupação com 0% 0% 8% 0%<br />
carteira assinada<br />
Não acrescentou nenhuma<br />
melhoria<br />
0% 0% 0% 7.78%<br />
Observa-se aqui um padrão distinto daquele observado nas ADRs em dois aspectos. Primeiro, ocorre<br />
uma diferença mais acentuada dos resultados encontrados nos diferentes programas. Ou seja, a<br />
percepção de que o principal benefício do programa foi aumentar conhecimento e melhorar<br />
desempenho no trabalho (genérico e indireto, como sugerido anteriormente) varia de 100% em Cardoso<br />
Moreira a apenas 11.1% no PRO<strong>DE</strong>R da Rocinha. Isto se deve a dois motivos: o diferente estágio em<br />
cada programa se encontra (no caso de Cardoso Moreira a implantação do programa foi recentemente<br />
concluída e no momento da avaliação o curso de formação de costureiras era a única ação já realizada)<br />
e a próprias características das comunidades beneficiárias (no caso da Rocinha, já existe uma tradição<br />
de movimentos comunitários e os usuários têm, provavelmente, mais acesso a informações e recursos<br />
etc.).<br />
O segundo aspecto é a constatação de que, em alguns casos, existe a percepção mais acentuada de que<br />
benefícios diretos e objetivos resultaram do programa. Veja-se, por exemplo, o PRO<strong>DE</strong>R de Jurujuba<br />
em que quase 50% identificam com o programa a melhoria de renda obtida e o aumento de faturamento<br />
de MPE da qual fazem parte, sendo que outros 8% indicaram ter obtido ocupação com carteira assinada<br />
em decorrência do programa. Já na Rocinha, chama a atenção o expressivo percentual de beneficiários<br />
do programa que declararam ter tomado a iniciativa de abrir MPE após a participação no programa. É<br />
importante ressaltar que muitas das pessoas entrevistadas consideraram ocupações e rendas gerados em<br />
atividades que envolvem mais de uma pessoa como abertura de MPE. Assim não se deve considerar<br />
que todos os empreendimentos citados estejam legalizados, mas ainda que não estejam apontam para a<br />
uma expressiva geração de ocupações. É importante se observar também que o percentual de pessoas<br />
que não associaram nenhuma melhoria pessoal ao programa é muito menor. De fato, nenhum usuário<br />
fez essa avaliação em três dos quatro programas avaliados (Cardoso Moreira, São Fidélis e Jurujuba) e<br />
na Rocinha, esse percentual foi inferior a 8%, muito abaixo, portanto, daquele observado na ADR Zona<br />
Sul.<br />
Esses dados podem ser interpretados como decorrentes da própria característica do programa. O<br />
PRO<strong>DE</strong>R delimita uma área e uma comunidade específicas para sua atuação e desenha um conjunto de<br />
iniciativas e ações que devem ser, em princípio, adequadas às demandas daquela comunidade. Os<br />
dados encontrados nessa avaliação parecem indicar que essa pode ser uma estratégia eficaz de ação, se<br />
pretende-se produzir benefícios diretos e objetivos para os usuários.<br />
16
3.3 – Percepção pelos clientes da qualidade dos serviços e da eficácia geral dos programas<br />
avaliados<br />
Algumas das perguntas feitas aos clientes das ADRs e dos PRO<strong>DE</strong>R visavam a obter uma avaliação<br />
direta da qualidade dos serviços prestados e do eficácia dos programas avaliados, tratando-se<br />
naturalmente de uma avaliação subjetiva, ou seja, da percepção dos usuários quanto aos itens<br />
perguntados. As tabelas VII e VIII mostradas a seguir resumem as informações obtidas,<br />
respectivamente na avaliação das ADRs e dos PRO<strong>DE</strong>R. Cabe notar que na avaliação das ADRs as<br />
perguntas se referiam à qualidade dos serviços e ao desempenho do SEBRAE como um todo, já que a<br />
ADR é uma projeção regional do SEBRAE. No caso do PRO<strong>DE</strong>R, entretanto, as perguntas se referiam<br />
a aspectos do programa, especificamente.<br />
TABELA VII<br />
PERCEPÇÃO DOS USUÁRIOS SOBRE A QUALIDA<strong>DE</strong> DO ATENDIMENTO, DOS<br />
SERVIÇOS E DO <strong>DE</strong>SEMPENHO DO SEBRAE<br />
Prguntas ADR norte Metrop. III Zona Sul<br />
1. Perguntas feitas a representantes da sociedade<br />
O SEBRAE tem identificado adequadamente as<br />
potencialidades e demandas da região<br />
4.75 3.93 3.33<br />
As ações do SEBRAE estão adequadas para<br />
atender as demandas do município<br />
3.33 3.57 3.00<br />
As ações que o SEBRAE promove possuem um<br />
diferencial que não é capaz de ser suprido por<br />
outra instituição no momento<br />
3.60 3.66 4.00<br />
2. Perguntas feitas a usuários de produtos e serviços do SEBRAE<br />
O atendimento nos balcões é adequado 4.41 3.63 3.33<br />
As informações e orientações transmitidas nos<br />
balcões são claras e adequadas<br />
4.26 3.55 3.33<br />
A qualidade do serviço utilizado atendeu às<br />
minhas expectativas<br />
4.19 3.61 3.30<br />
Em termos gerais o desempenho do SEBRAE é<br />
muito bom<br />
4.17 4.20 3.86<br />
Indique qual é a sua intenção de utilizar<br />
novamente os serviços do SEBRAE nos próximos<br />
12 meses<br />
3.96 2.81 1.80<br />
Antes de passar a análise dos dados da tabela cabe um comentário preliminar sobre a natureza da<br />
informação nela contida. Os valores apresentados na tabela se referem à média ponderada pela<br />
freqüência das notas atribuídas aos respondentes à cada questão. Conforme mencionado quando se<br />
apresentou a metodologia, cada respondente era solicitado a dar uma nota a cada quesito variando de 1<br />
(discordo inteiramente) a 5 (concordo inteiramente). Assim, uma avaliação totalmente positiva de um<br />
quesito resultaria numa média 5 e uma avaliação totalmente negativa numa nota 1. Para efeito da<br />
análise dos resultados obtidos dever-se-ia definir uma nota considerada boa, ou seja, que expressa uma<br />
avaliação positiva por parte dos respondentes, para aquele item. Em outras palavras, qual é o<br />
“benchmark” em termos de qualidade e desempenho que se deveria adotar para avaliar o SEBRAE e<br />
seus programas. Considerando-se que o desempenho ideal (e qualidade total) resultariam numa nota 5,<br />
é razoável aceitar-se uma nota inferior a 5. Porém, quanto inferior? Temos aqui, mais uma vez<br />
demonstrada que a avaliação envolve decisões gerenciais e serve para aprimorar o desempenho<br />
17
gerencial e não substitui as decisões gerenciais. Para efeito deste trabalho vamos considerar que um<br />
desempenho eficaz deve corresponder a, pelo menos, 80% da nota máxima, ou seja, vamos considerar<br />
que um item está sendo bem avaliado pelos respondentes quando a média daquele for igual ou maior a<br />
4. Evidentemente, essa escolha é arbitrária, embora não incoerente, e poder-se-ia chegar a outra leitura<br />
e conclusão dos dados obtidos neste trabalho se adotasse um outro padrão de desempenho.<br />
A tabela VII apresenta informações para dois grupos de respondentes que foram classificados<br />
inicialmente como clientes: os representantes da sociedade e os usuários dos produtos e serviços. As<br />
perguntas endereçadas aos primeiros refletem aspectos relacionados a atuação estratégica do SEBRAE<br />
numa determinada região e, em certa medida, mede a visão estratégica demonstrada pelo gerente da<br />
ADR. Foram realizadas entrevistas com os gerentes das ADRs em que estes foram questionados sobre<br />
fatores como demandas identificadas na região, ações do SEBRAE para atender as demandas e<br />
parcerias realizadas. As respostas para essas questões foram apresentadas aos representantes a fim de<br />
que possuíssem informações suficientes para fazerem suas avaliações. As perguntas endereçadas aos<br />
usuários se referem a aspectos operacionais da atuação do SEBRAE, em cada ADR.<br />
Analisando-se os dados referentes aos representantes, observa-se que apenas em dois casos a nota<br />
obtida foi igual ou superior a quatro. No quesito identificação adequada das potencialidades e<br />
demandas da região a média obtida para a ADR Norte foi de 4,75, muito próxima da nota máxima<br />
possível, indicando que a ADR tem um ótimo conhecimento das necessidades e potencialidades<br />
regionais. Já no que toca a considerar o SEBRAE uma instituição que apresenta um diferencial não<br />
encontrado em outras instituições, as notas atribuídas pelos respondentes da ADR Zona Sul resultaram<br />
numa média 4, indicando que atribuem uma importância especial e estratégica ao SEBRAE.<br />
Um outro aspecto a ressaltar foi a nota sofrível para o item que trata da adequação das ações do<br />
SEBRAE para atender as demandas locais. Neste item, a maior média encontrada foi de 3,57 para a<br />
ADR Metropolitana III, sendo que a média para a ADR Norte foi de 3,33 e para a ADR Zona Sul<br />
apenas 3,00. Observe-se o contraste nos dois quesitos citados da nota conferida à ADR Norte.<br />
Enquanto que para a capacidade de identificar demandas e potencialidades a média obtida foi de 4,75,<br />
no que toca a capacidade de atender a essas demandas com ações a nota atribuída foi de apenas 3,33.<br />
Essa discrepância deixa claro que, para os representantes da sociedade que avaliam o SEBRAE de uma<br />
perspectiva mais ampla, fica a impressão de que a instituição tem se revelado mais capaz de definir<br />
diretrizes do que de realizar ações específicas que levam a concretização dessas diretrizes.<br />
Uma outra leitura desse resultado discrepante, porém, pode estar associado ao fato de que as lideranças<br />
locais esperam ações mais abrangentes e essenciais (geralmente relacionadas a infra-estrutura,<br />
investimentos, etc.) que escapam do escopo do SEBRAE.<br />
A sofrível avaliação para o item atendimento das demandas locais, mencionada anteriormente, pode<br />
sugerir a necessidade de uma comunicação mais clara dos objetivos e das formas de atuação do<br />
SEBRAE. Sugerem, também, que o SEBRAE poderia atuar mais intensamente de forma política,<br />
atualizando como catalizador de ações de outras instâncias e agências governamentais.<br />
O item 2 da tabela VII apresenta os resultados obtidos com os usuários dos produtos SEBRAE. Neste<br />
caso, analisando-se os três primeiros itens avaliados (atendimento nos balcões, clareza das informações<br />
e qualidade do serviço prestado) é o desempenho destacado da ADR Norte em relação à Metropolitana<br />
III e Zona Sul. De fato, para esses três itens a média obtida pela ADR Norte foi superior a 4, chegando<br />
a 4,4 para o item “atendimento nos balcões”. Comparando-se as outras duas ADRs, observa-se que a<br />
Metropolitana III tem um desempenho um pouco superior ao da Zona Sul. As médias desta última, nos<br />
três quesitos mencionados não foram superiores a 3,33 (menos de 70% do valor máximo).<br />
18
Pode-se observar aqui que os resultados obtidos já vão indicando alguma coerência. De fato, quando se<br />
analisou o impacto dos serviços adquiridos nas diferentes ADRs, mais de 18% dos usuários da ADR<br />
Zona Sul indicaram que o serviço não acrescentou melhoria alguma, enquanto que para os usuários da<br />
ADR Metropolitana III este percentual foi de 7% e de apenas 4,35% para a ADR Norte. Embora não<br />
se tenha elementos para identificar as causas desse desempenho diferente (ou melhor dizendo, da<br />
percepção pelos usuários de desempenho diferente), as evidências sinalizam que os usuários<br />
encontram-se mais satisfeitos com os serviços prestados pela ADR Norte e são mais críticos em relação<br />
a ADR Zona Sul.<br />
Os dois outros itens indagados aos usuários levaram a resultados bem diferentes e até certo ponto<br />
inesperados. Quando se pede que os usuários avaliem, em termos gerais, o desempenho do SEBRAE,<br />
encontra-se uma nota média superior a 4,00 tanto para a ADR Norte como para a ADR Metropolitana<br />
III, sendo que o deste última é ligeiramente superior. A própria nota dada pelos usuários à ADR Zona<br />
Sul, embora inferior a 4,00 é a maior obtida por esta ADR junto aos usuários (3,86). Esses resultados<br />
indicam que a imagem e a impressão geral que os usuários têm do SEBRAE é predominantemente<br />
positiva. Entretanto, quando se indaga qual é a intenção desses usuários voltarem a usar os serviços do<br />
SEBRAE a nota encontrada é abaixo de 4,00 para as três ADRs, sendo decepcionantemente baixa para<br />
as ADRs Metropolitana III (2,81) e Zona Sul (1,80). Mais uma vez aqui fica evidenciado o<br />
desempenho mais destacado da ADR Norte, na percepção de seus usuários, já que a média obtida neste<br />
item foi muito próxima de 3,96, muito próxima do padrão de qualidade sugerido anteriormente.<br />
A razão desse aparente paradoxo, expresso por uma avaliação positiva da instituição e por um aparente<br />
desinteresse em voltar a utilizar os seus serviços, pode estar associada, mais uma vez às informações<br />
obtidas quando se analisou o impacto dos serviços, no item anterior. Lá observamos que a maioria dos<br />
usuários de serviços do SEBRAE identifica como principal benefício do serviço adquirido o aumento<br />
de conhecimento e a melhoria do desempenho no trabalho, aspectos que definimos anteriormente como<br />
genéricos e indiretos. Assim, os usuários embora considerem o serviço prestado como de qualidade o<br />
que os leva a avaliarem a instituição de forma positiva, não identificam um benefício mais “concreto”<br />
com o serviço adquirido, o que os torna reticentes sobre a possibilidade de voltar a utilizá-los. Essas<br />
constatações reforçam a necessidade de uma reflexão da direção do SEBRAE e de seu corpo<br />
gerencial sobre a natureza e conteúdo de seus produtos e a adequação dos mesmos à clientela, bem<br />
como sobre a importância de uma estratégia diferenciada regionalmente, aspectos já referidos<br />
anteriormente neste relatório.<br />
A análise do desempenho do PRO<strong>DE</strong>R feita pelos seus clientes é mostrada na tabela VIII, a seguir.<br />
Considerou-se como clientes do PRO<strong>DE</strong>R os membros do forum (à exceção de Jurujuba) e os usuários<br />
de produtos do SEBRAE, via ação do PRO<strong>DE</strong>R.<br />
19
TABELA VIII<br />
PERCEPÇÃO DOS USUÁRIOS SOBRE A QUALIDA<strong>DE</strong> DOS SERVIÇOS E DO<br />
<strong>DE</strong>SEMPENHO DO PRO<strong>DE</strong>R<br />
Perguntas Cardoso São Jurujuba Rocinha<br />
1. Membros do Forum<br />
Moreira Fidélis<br />
Os serviços oferecidos pelo SEBRAE, via<br />
ação do PRO<strong>DE</strong>R, estão adequados às<br />
necessidades da população<br />
4.80 3.66 x 4.18<br />
O programa PRO<strong>DE</strong>R como um todo teve um<br />
desempenho muito bom<br />
4.30 3.72 x 4.56<br />
O SEBRAE está cumprindo sua parte para<br />
viabilizar o plano de desenvolvimento<br />
2. Usuários de serviços, via PRO<strong>DE</strong>R<br />
4.57 4.66 x 4.53<br />
A qualidade do serviço prestado pelo<br />
PRO<strong>DE</strong>R atendeu as minhas expectativas<br />
3.89 4.45 4.42 3.33<br />
O programa PRO<strong>DE</strong>R como um todo teve um<br />
desempenho muito bom<br />
x 3.86 4.58 2.35<br />
A análise dos dados da tabela VIII mostra situações bens distintas quando se analise os dois diferentes<br />
tipos de “clientes”. No que toca aos membros do fórum, que têm um envolvimento maior e, mesmo<br />
uma responsabilidade política com o programa, observa-se uma avaliação predominantemente positiva<br />
para os três itens pesquisados. De fato, encontramos notas superiores a 4,00 nos três itens nos<br />
PRO<strong>DE</strong>R de Cardoso Moreira e Rocinha e em um dos três itens no PRO<strong>DE</strong>R de São Fidélis. No caso<br />
de São Fidélis, a avaliação mais crítica certamente está associada a expectativa criada junto a<br />
população com o programa.<br />
É importante considerar que por se tratar de um PRO<strong>DE</strong>R Especial, que envolve parcerias com as<br />
diversas instâncias do poder público, criou-se grandes expectativas e frustrações que escapam à<br />
responsabilidade do SEBRAE.<br />
Note-se, entretanto, quando se indaga sobre o desempenho do SEBRAE no cumprimento dos objetivos<br />
do plano do desenvolvimento, as notas atribuídas pelos membros dos fórum dos três programas são<br />
superiores a 4.5, indicando que existe a percepção clara de que se alguma instituição não está<br />
fazendo sua parte no programa, não é o SEBRAE. É importante ressaltar que boa parte dos<br />
entrevistados preferiu não responder a esta questão devido ao pouco tempo transcorrido desde o<br />
término dos encontros de capacitação, julgando que não existe ainda informação suficiente para avaliar<br />
esta questão. Deve-se considerar que as notas são pouco representativas e que avaliações futuras podem<br />
confirmar a impressão inicial ou revelar resultados bastante diversos.<br />
Já quando se examina as notas obtidas junto aos usuários de serviços do SEBRAE via ação do<br />
PRO<strong>DE</strong>R, os resultados se mostram mais dispersos. Assim, os participantes do PRO<strong>DE</strong>R de Jurujuba<br />
oferecem uma avaliação bastante positiva (médias superiores a 4,4 nos dois itens) tanto para a<br />
qualidade do serviço como para o desempenho do programa como um todo. Os participantes da<br />
Rocinha estão no extremos oposto com uma avaliação bastante crítica (médias de 3,33 e 2,35 para os<br />
itens pesquisados), enquanto que os participantes de São Fidélis e Cardoso Moreira mostram resultados<br />
dentro ou ligeiramente abaixo do padrão esperado. Quando questionados sobre o desempenho do<br />
PRO<strong>DE</strong>R, os usuários de Cardoso Moreira relataram nunca terem ouvido falar em PRO<strong>DE</strong>R. Os<br />
20
esultados de São Fidélis e Cardoso Moreira são explicados, provavelmente pelo estágio ainda bastante<br />
inicial do programa o que não permite aos participantes uma avaliação mais ampla e fundamentada.<br />
Já a avaliação mais crítica obtida na Rocinha, pode estar relacionada, ao maior grau de conscientização<br />
e de experiência de vida comunitária daquela população, o que aguça suas expectativas e seu senso<br />
crítico. A transcrição de dois comentários obtidos em entrevistas com membros do fórum evidencia<br />
esse aspecto:<br />
“Antes do início dos trabalhos do fórum já haviam projetos definidos pelo PRO<strong>DE</strong>R. O fórum não<br />
tinha como deliberar. Parecia que eles iam fazer aquilo com ou sem o fórum. Isso acabou dividindo o<br />
PRO<strong>DE</strong>R em duas vertentes: os projetos do fórum e outros pré-aprovados. O fórum conseguiu inserir<br />
alguns projetos, mas faltou integração. Mas quero enfatizar que a proposta é excelente. Pena que não<br />
alcançou tudo que poderia.”<br />
“Acho que a iniciativa de reunir instituições locais foi muito boa. Mas acho também que quando as<br />
pessoas (capacitadores) vierem para a Rocinha, têm de vir abertos para aprenderem a nossa realidade.<br />
As pessoas têm de conhecer antes para depois saber do que a gente precisa. Como eu já fiz muitos<br />
cursos deste tipo e tenho muito conhecimento sobre os assuntos trabalhados, achei que ficou aquém de<br />
minhas expectativas”.<br />
3.4 – Avaliação do grau de conhecimento do SEBRAE e de seus programas e da compreensão de<br />
sua missão e de seus objetivos<br />
Um aspecto interessante que pôde ser verificado na pesquisa é o grau em que os usuários dos serviços<br />
do SEBRAE ou de programas específicos, no caso do PRO<strong>DE</strong>R, estão informados sobre os serviços<br />
disponíveis e o tipo de apoio que podem obter da instituição. Além disso, um outro aspecto interessante<br />
a examinar diz respeito ao conhecimento que os clientes têm da missão e dos objetivos do SEBRAE.<br />
As informações obtidas a esse respeito podem ajudar a direção da instituição em, pelo menos, duas<br />
direções: avaliar a eficácia das estratégias, instrumentos e veículos de divulgação que utiliza e avaliar a<br />
imagem que os clientes guardam da instituição.<br />
As tabelas IX e X mostradas a seguir contêm as avaliações obtidas em quesitos específicos sobre a<br />
divulgação dos produtos e serviços e conhecimento dos objetivos do SEBRAE, incluídos nos<br />
questionários aplicados aos clientes das ADRs e do PRO<strong>DE</strong>R, respectivamente. Além disso, na análise<br />
que se segue serão apresentados comentários obtidos em entrevistas realizadas com diversos<br />
participantes, principalmente com representantes da sociedade, que tratam da mesma questão e ajudam<br />
a traçar um quadro mais rico e completo de tópico analisado.<br />
TABELA IX<br />
GRAU <strong>DE</strong> CONHECIMENTO DOS SERVIÇOS, PRODUTOS E OBJETIVOS DO SEBRAE -<br />
ADRs<br />
Perguntas ADR ADR ADR Zona Sul<br />
norte Metrop.III<br />
1. Pessoas Físicas e Jurídicas que não tenham utilizado os serviços do SEBRAE<br />
Considero que o SEBRAE e seus produtos são bem<br />
divulgados na região<br />
3.25 1.57 1.56<br />
Tenho conhecimento dos objetivos do SEBRAE 2.65 1.71 1.73<br />
2. Usuários de produtos do SEBRAE<br />
Considero que o SEBRAE e seus produtos são bem<br />
divulgados na região<br />
3.96 2.85 2.34<br />
Tenho conhecimento dos objetivos do SEBRAE 3.49 2.52 2.09<br />
21
As baixas médias obtidas em quase todos os quesitos constantes da tabela anterior (de fato, não se<br />
encontrou nenhuma nota superior a 4 e na maioria dos casos a média calculada foi inferior a 3) leva a<br />
duas conclusões inequívocas: 1) de maneira geral a percepção de usuários e não usuários é de que os<br />
produtos do SEBRAE não são adequadamente divulgados nas suas respectivas regiões, bem como não<br />
há percepção clara de quais sejam seus objetivos; 2) mais uma vez a comparação entre as três ADRs<br />
sinaliza uma clara superioridade da ADR Norte, em todos os quesitos pesquisados. De fato, de todos os<br />
itens constantes da tabela, aquele em que a média obtida mais se aproximou de 4 (padrão proposto<br />
nesta análise como indicativo de desempenho adequado) foi para os usuários de produtos do SEBRAE<br />
da ADR Norte quando indagados se consideram que os produtos são bem divulgados na região.<br />
Observe-se que, quando a mesma pergunta é feita aos não usuários, a nota encontrada é extremamente<br />
baixa nas ADRs Metropolitana III e Zona Sul (em ambos os casos inferior a 2) e, mais uma vez,<br />
superior na ADR Norte, embora apenas ligeiramente superior a 3, o que também indica um resultado<br />
sofrível.<br />
Quando se indaga sobre o conhecimento dos objetivos do SEBRAE, os resultados obtidos são<br />
igualmente sofríveis, indicando que não há uma clara percepção pelos usuários sobre quais são os<br />
objetivos do SEBRAE. Neste item as médias calculadas são inferiores a 3, em todos os casos, à<br />
exceção dos usuários da ADR Norte, para os quais a média obtida foi em torno de 3.5. Cabe notar que a<br />
pergunta sobre o conhecimento dos objetivos do SEBRAE foi acompanhada de uma pergunta de<br />
controle na qual se listava um conjunto de objetivos que seriam associados à ação do SEBRAE e se<br />
pedia ao respondente que assinalasse quais dentre aqueles constituíam objetivos do SEBRAE (ver a<br />
propósito o questionário aplicado aos usuários e não usuários de serviços na ADR – Anexo IV – e a<br />
tabulação desta pergunta apresentada de forma desdobrada no Anexo II). No caso da ADR Norte, cerca<br />
de 20% assinalaram todos os itens que fazem parte dos objetivos do SEBRAE. Esse percentual foi de<br />
apenas 5% entre os respondentes a ADR Zona Sul e de 1% na ADR Metropolitana III. Por outro lado,<br />
cerca de 22% dos usuários da ADR Zona Sul identificaram como objetivo do SEBRAE apenas<br />
“estimular a criação de MPEs”, enquanto que 13% dos usuários da ADR metropolitana III deram essa<br />
mesma resposta.<br />
Ainda respondendo a essa pergunta, mais de 40% dos usuários da ADR Metropolitana III e 20% dos<br />
usuários da ADR Zona Sul declararam não saber o objetivo do SEBRAE. Na ADR Zona Norte esse<br />
percentual foi da ordem de 12%.<br />
Os dados obtidos parecem não deixar dúvida que os clientes (efetivos e potenciais) do SEBRAE<br />
consideram deficiente a divulgação da instituição e de seus produtos. Esse tópico seria mais um,<br />
portanto, a merecer a atenção e reflexão da instituição, endereçando questões do tipo: qual a eficácia<br />
e adequação das estratégias e instrumentos de divulgação atualmente utilizados? Qual o efeito dessa<br />
divulgação deficiente (ou percebida como deficiente pelos clientes) sobre o alcance de diferentes tipos<br />
de usuários e sobre o próprio desempenho da instituição? Como isto afeta a imagem da instituição?<br />
Dentre outras.<br />
Um comentário de representante de Rio Bonito ajuda a ilustrar, não só a percepção de divulgação<br />
deficiente como de alternativas que podem ser consideradas:<br />
“A atuação do SEBRAE em Rio Bonito é elogiável. Só acho que o SEBRAE deveria investir mais em<br />
divulgação. O jornal da associação é o principal informativo local de Rio Bonito, mas se eles quiserem<br />
usar outros meios que usem, mas divulguem. As pessoas precisam saber para o que é que serve”.<br />
22
Essa percepção é compartilhada pelo próprio gerente da ADR Metropolitana III que afirma: “O<br />
SEBRAE, como instituição, deve ser mais bem divulgado, principalmente informando para a<br />
população o que exatamente pode fazer”.<br />
Na mesma linha é o comentário feito por um dos representantes em Niterói, que afirmou: “A maior<br />
dificuldade do SEBRAE é de comunicação com o público. É problema de divulgação. Do SEBRAE<br />
como um todo, institucionalmente”.<br />
Por último, caberia considerar que o resultado superior observado na pesquisa da ADR Zona Norte,<br />
com relação ao tópico discutido acima, pode tanto decorrer de uma atuação mais eficaz da gerência da<br />
ADR e de seu corpo funcional (o que é provável), como também de características peculiares da ADR e<br />
de seus usuários. Um fator que pode ter um efeito importante na avaliação obtida diz respeito ao fato de<br />
se tratar de uma ADR que tem toda a sua ação desenvolvida no interior, o que provavelmente permite<br />
uma atuação mais próxima dos usuários, contatos mais constantes e eficazes com lideranças locais e<br />
maior visibilidade. Embora essa característica seja um “dado” da situação, pode também permitir tirar<br />
lições gerenciais desse fato. Ou seja, um desafio importante para o SEBRAE pode ser o de<br />
desenvolver estratégias e instrumentos de comunicação e divulgação adequados ao contexto em<br />
que cada ADR opera. Mais uma vez, permeia aqui a idéia de que a instituição deve estar atenta ao seu<br />
mercado e evitar soluções simétricas.<br />
TABELA X<br />
GRAU <strong>DE</strong> DIVULGAÇÃO DO PRO<strong>DE</strong>R E <strong>DE</strong> CONHECIMENTO <strong>DE</strong> SEUS OBJETIVOS<br />
Perguntas Cardoso São Jurujuba Rocinha<br />
1. Membros do fórum<br />
Moreira Fidélis<br />
Tenho conhecimento dos objetivos do<br />
PRO<strong>DE</strong>R e das ações que estão sendo<br />
desenvolvidas<br />
x x -o- 4.56<br />
2. Pessoas que nunca utilizaram os serviços do SEBRAE via ação do PRO<strong>DE</strong>R<br />
Houve uma divulgação adequada do<br />
PRO<strong>DE</strong>R no município<br />
1.38 1.32 -o- 1.12<br />
Tenho conhecimento dos objetivos do<br />
PRO<strong>DE</strong>R<br />
x 1.12 -o- 1.02<br />
Houve divulgação adequada para 2.09 1.125 -o- 1.11<br />
participação no fórum do PRO<strong>DE</strong>R<br />
3. Usuários dos serviços do SEBRAE via ação do PRO<strong>DE</strong>R<br />
Tenho conhecimento dos objetivos do<br />
PRO<strong>DE</strong>R e das ações que estão sendo<br />
desenvolvidas<br />
x x 4.58 1.78<br />
A análise da respostas obtidas para os mesmos itens analisados anteriormente, porém relacionados<br />
especificamente ao PRO<strong>DE</strong>R levam a resultados igualmente sofríveis, com apenas duas exceções: os<br />
membros do fórum do PRO<strong>DE</strong>R Rocinha revelaram conhecer perfeitamente os objetivos do PRO<strong>DE</strong>R<br />
e de suas ações como indica a nota superior a 4.5 obtida para o item; e os usuários do PRO<strong>DE</strong>R de<br />
Jurujuba indicaram também um conhecimento seguro dos objetivos e das ações. Em todos os demais<br />
casos a nota encontrada ou foi muito baixa, indicando, mais uma vez, a percepção de uma divulgação<br />
deficiente do programa e de seus objetivos. As questões sobre o conhecimento dos objetivos do<br />
PRO<strong>DE</strong>R não faziam parte dos questionários aplicados em Cardoso Moreira e São Fidélis. Foram<br />
23
inseridas posteriormente devido à constatação de que os envolvidos com o PRO<strong>DE</strong>R, membros do<br />
fórum e usuários, não conheciam os objetivos do PRO<strong>DE</strong>R ou confundiam-nos com os do SEBRAE.<br />
Já as notas elevadas obtidas na Rocinha e em Jurujuba podem indicar, num caso, a já mencionada<br />
“cultura” de participação e maior capacidade de se informar da comunidade e, no outro, o tempo<br />
decorrido de execução do programa que o tornou, provavelmente, algo familiar para os usuários.<br />
De qualquer forma, os resultados apresentados na tabela X não deixam dúvidas de que existe a<br />
percepção de que a divulgação do programa foi deficiente. É cedo para saber em que medida, tal<br />
situação poderá afetar os resultados do programa. De qualquer forma, essa é uma informação relevante<br />
que a direção do SEBRAE e a Coordenação do Programa devem utilizar na continuidade do mesmo.<br />
3.5 – Avaliação de Processos e Estratégias Gerenciais<br />
O último item desta seção aborda a avaliação de aspectos dos processos gerenciais que estão por trás do<br />
desenvolvimento, da execução e da distribuição de serviços e produtos do SEBRAE e do PRO<strong>DE</strong>R em<br />
particular. A intenção, nesta análise, é prover a direção e o corpo gerencial e funcional do SEBRAE de<br />
informações que ajudem a explicar alguns dos resultados apresentados e discutidos anteriormente.<br />
Essencialmente, tenta-se identificar características do processo, do estilo e das estratégias gerenciais<br />
adotadas pela instituição que melhoram ou limitam o seu desempenho. Para esta análise, além de<br />
examinar alguns resultados obtidos na pesquisa de campo junto aos clientes, discute-se com mais<br />
detalhe os resultados obtidos com a pesquisa junto a funcionários, corpo gerencial e consultores<br />
envolvidos no planejamento e execução dos serviços.<br />
A tabela XI, apresentada a seguir apresenta resultados da pesquisa de campo realizada com esses<br />
diferentes atores. Cabe mencionar que nessa tabela os valores apresentados têm interpretações distintas<br />
para os clientes e para o pessoal operacional e de planejamento. No primeiro caso, os valores<br />
apresentados se referem à média encontrada para cada pergunta incluída na tabela. Já para o pessoal<br />
operacional e de planejamento, os valores que a tabela retrata se referem à média de todas as perguntas<br />
endereçadas a cada grupo respondente. Assim, por exemplo, para os funcionários das ADRs, foram<br />
feitas 7 perguntas. O valor apresentado na tabela XIII, então, representa a média das médias<br />
encontradas para essas 7 perguntas. As tabelas detalhadas com as médias de cada pergunta realizada,<br />
para cada grupo de respondente, podem ser encontradas no Anexo II deste relatório.<br />
TABELA XI<br />
<strong>AVALIAÇÃO</strong> <strong>DE</strong> PROCESSOS – ADRs<br />
Perguntas Adr Adr Adr<br />
1. Representantes da Sociedade<br />
Norte Metrop. III Zona Sul<br />
O SEBRAE está bem articulado com a entidade que você<br />
representa<br />
4.00 3.80 2.50<br />
O SEBRAE realiza parcerias adequadas em quantidade e qualidade<br />
2. Usuários dos Produtos do SEBRAE<br />
4.06 4.27 3.50<br />
O SEBRAE entrou em contato para avaliar o grau de satisfação<br />
com o produto utilizado<br />
2.91 1.16 1.38<br />
O SEBRAE procura acompanhar se os serviços adquiridos estão<br />
produzindo resultados<br />
2.50 1.32 1.17<br />
3. Funcionários da ADR 3.62 3.76 3.70<br />
4. Funcionários do Balcão 4.04 3.69 4.33<br />
5. Gerentes de Produtos da Sede 3.61 3.68 3.66<br />
24
A análise da tabela acima deve ser dividida em três partes. A primeira parte trata das perguntas<br />
endereçadas aos representantes da sociedade. Essas perguntas, como se observa, dizem respeito à<br />
prioridade que o SEBRAE atribui, em sua estratégia, à realização de parcerias e articulação com outras<br />
instituições. Esses são aspectos que tendem a se tornar cada vez mais indispensáveis para instituições<br />
como o SEBRAE, cujo alcance e impacto do trabalho que realizam podem ser ampliados com o<br />
atendimento multidisciplinar e interinstitucional de seus clientes (complementar treinamento com<br />
obtenção de crédito, consultoria organizacional com treinamento em tecnologia ou profissional, etc.).<br />
Nos dois quesitos pesquisados junto aos representantes os resultados, se não são excepcionais, também<br />
não são decepcionantes. O pior resultado encontrado diz respeito a capacidade de articulação da ADR<br />
Zona Sul, cuja média encontrada foi de 2.50, que pode ser considerada muito baixa e indicaria a<br />
necessidade de uma atenção maior a este aspecto. Essa mesma ADR recebeu também a pior avaliação<br />
no que toca realização de parcerias, embora o resultado obtido, 3.50, possa ser considerado razoável.<br />
Cabe observar, também, que estas são tarefas estratégicas de responsabilidade direta (e talvez<br />
insubstituível) do próprio gerente da ADR. O monitoramento dessa informação pode ser, portanto,<br />
um valioso instrumento para o gerente orientar as suas ações e iniciativas e não permitir que essa<br />
responsabilidade estratégica seja colocada num plano secundário.<br />
A transcrição de alguns comentários colhidos em entrevistas ajudam a compreender a frustração que a<br />
ausência de sintonia e articulação podem provocar junto aos clientes:<br />
“O SEBRAE hoje quer caminhar sozinho. Sua política mudou para pior. Se afastou das associações<br />
comerciais. Agora ele é concorrente. Falo do SEBRAE como um todo, no estado do Rio. É uma pena<br />
que esteja nas mãos da indústria. Ele deveria voltar para dentro das associações”.<br />
“Acho que Senac, Senai e Sebrae devem estar mais integrados para evitar que um faça o trabalho do<br />
outro. Devem se conhecer mais e somar esforços, de forma complementar, para que haja cooperação e<br />
não competição”.<br />
Eventualmente o distanciamento e a ausência de uma estratégia consistente de cooperação pode levar<br />
da frustração ao ressentimento e críticas mais contundentes, como comprova o comentário colhido num<br />
sindicato de empresários de Niterói:<br />
“O SEBRAE tem que dar prioridade para as empresas que contribuem e não para trabalhos<br />
comunitários como o PRO<strong>DE</strong>R. Estamos em época de crise. Ele precisa ajudar o MPE que contribui, e<br />
não gerar concorrência para este MPE. Também não deve atuar em legalização de empresários. Isto é<br />
papel do governo.”<br />
Pertinentes ou não, esses comentários ilustram o dano que pode causar à imagem da instituição o<br />
descuido com a comunicação e articulação com setores e lideranças locais. A menção a esses<br />
comentários visa apenas a reforçar a importância de que a gerência confira prioridade ao estreitamento<br />
desses relacionamentos e possa transformar atitudes hostis ou de desinteresse em apoio e parcerias.<br />
A segunda parte da tabela analisada se refere às perguntas feitas para usuários de serviços relacionadas<br />
às iniciativas de acompanhamento dos serviços prestados, no que toca a qualidade e aos resultados<br />
obtidos (o equivalente numa empresa privada a atividade de pós-venda). Neste caso os resultados<br />
encontrados são indiscutivelmente ruins. De fato, de todas as perguntas feitas aos usuários as piores<br />
notas foram atribuídas aos dois itens incluídas na tabela XI. Mais uma vez, o resultado menos frustrante<br />
(embora fraco) foi observado na ADR Norte (com notas inferiores a 3.0 para os dois itens pesquisados).<br />
No caso das outras duas ADRs, a nota encontrada foi próxima de 1.0, indicando a virtual ausência de<br />
preocupação com o acompanhamento dos resultados dos serviços prestados.<br />
25
Essa talvez, seja uma das constatações mais importantes da avaliação realizada. Porque, ainda que<br />
se possa argumentar que essa atividade não está prevista nas tarefas das ADRs (daí explicar-se as<br />
baixas notas encontradas), fica claro que se trata de uma omissão (ou de uma fragilidade do<br />
processo gerencial) que provavelmente limita consideravelmente a qualidade e o impacto dos<br />
serviços prestados pelo SEBRAE. Corrigir essa deficiência seria uma prioridade da direção da<br />
instituição e de seus gerentes.<br />
Basta lembrar que uma das características que distinguem as organizações de sucesso atualmente, é<br />
exatamente a capacidade de atender permanentemente seus clientes, acompanhar o resultado e os<br />
benefícios dos produtos e serviços que vendem, criando uma relação de lealdade com seus clientes.<br />
A avaliação do Pessoal Operacional (das ADRs e dos Balcões) e da sede (Gerentes de Produtos), tratou<br />
de quatro aspectos do processo gerencial:<br />
- padrão de comunicaçao entre os diferentes níveis hierárquicos (Balcão/ADRs, ADRs/Sede);<br />
- padrão de interação entre os diferentes níveis hierárquicos;<br />
- qualificação e preparo dos funcionários;<br />
- produção e geração de receita.<br />
Observa-se que a maioria das notas encontradas situaram-se num mesmo patamar entre 3.6 e 3.7, à<br />
exceção da avaliação dos funcionários dos balcões, onde se encontram os dois únicos resultados<br />
superiores a 4.00 (para as ADRs Norte e Zona Sul). Esse resultado indica que os diferentes grupos de<br />
funcionários (ressalvadas as exceções mencionadas) tendem a perceber que a qualidade dos processos<br />
gerenciais é apenas razoável. Apesar dessa aparente concordância, o exame mais detalhado das<br />
informações obtidas (que podem ser consultadas, como mencionado anteriormente, no Anexo II deste<br />
relatório) revela algumas importantes diferenças.<br />
No que toca aos funcionários das ADRs, por exemplo, a comunicação entre estas e a sede recebeu nota<br />
mais baixa que a média em todas as ADRs (a resposta a esse item recebeu notas abaixo de 3.5 em todas<br />
as ADRs). A capacidade da Sede de atender prontamente às demandas das ADRs também recebeu<br />
notas sofríveis, principalmente nas ADRs Metropolitana III e Zona Sul. Curiosamente quando se pediu<br />
que os próprios funcionários avaliassem o grau em que estão preparados para exercer suas funções, a<br />
nota encontrada foi muito baixa na ADR Norte (2.5) e esteve entre as mais altas (4.14), na ADR Zona<br />
Sul. Esse resultado não deixa de ser paradoxal, já que a avaliação da ADR Norte pelos seus usuários<br />
sempre esteve acima das outras pesquisadas. Uma conjectura interessante que esses resultados ensejam<br />
é de que os funcionários da ADR Norte têm mais auto-crítica e estão mais interessados em se aprimorar<br />
e que, exatamente, essa atitude mais interessada pode levar a um empenho e comprometimento maior,<br />
o qual é percebido pelo cliente. Aqui está certamente um aspecto que deve desafiar a reflexão dos<br />
gerentes e que pode levar a um interessante aprendizado.<br />
As maiores notas encontradas para as ADRs Metropolitana III e Zona Sul dizem respeito, nos dois<br />
casos, ao reconhecimento de que as respectivas gerências realizam planejamento e procuram<br />
acompanhar os resultados de forma sistemática (as notas para este item foram superiores a 4.0). Já para<br />
os funcionários da ADR Norte a maior nota foi para o item que avaliou o padrão de interação entre a<br />
ADR e a SE<strong>DE</strong>. A nota 4.33 atribuída a esse item indica que os funcionários consideram que o padrão<br />
de interação é predominantemente de cooperação. Apenas para comparar, em resposta a este mesmo<br />
item os funcionários da ADR Metropolitana III atribuíram nota 3.9 e os da ADR Zona Sul 3.0.<br />
Um outro item que apresentou resultado consistente nas três ADRs foi o que tratava do padrão de<br />
interação entre ADRs e Balcões. Nos três casos, esse padrão foi considerado como predominantemente<br />
de cooperação, com nota superior a 4.0<br />
26
No que toca a avaliação feita pelos funcionários dos Balcões, cabe destacar as notas mais baixas<br />
atribuídas pelos funcionários dos Balcões da ADR Metropolitana III para os itens que trataram dos<br />
padrões de interação entre Balcões e ADR e à capacidade da ADR de responder as demandas dos<br />
Balcões (nota 3.5 nos dois casos) e a nota mais baixa de todos os itens, atribuída pelos funcionários da<br />
ADR Norte ao item que indagou sobre o preparo dos funcionários (para o qual a nota atribuída foi 3.0).<br />
Note-se que essa avaliação mais crítica dos funcionários dos balcões desta ADR em relação à sua<br />
própria qualificação repetiu o que havia sido observado para os funcionários da ADR.<br />
No que toca a avaliação feita pelos Gerentes de Produtos da Sede cabe destacar dois pontos. A nota<br />
mais alta atribuída a ADR Norte para a pergunta que tratou da capacidade da ADR atender às<br />
demandas da região (é importante ressaltar que muitos dos gerentes não se considerou em condições<br />
responder a esta questão uma vez que não dispunham de informação suficiente) e a nota baixa atribuída<br />
a todas as ADRs no que toca a qualificação e preparo dos funcionários. Observa-se, portanto, de um<br />
lado, que os gerentes de produto ratificam a boa impressão que os usuários têm da capacidade da ADR<br />
Norte em atender suas demandas e, de outro, que esses mesmos gerentes têm uma avaliação bastante<br />
crítica da qualificação dos funcionários das ADRs, o que provavelmente se reflete na avaliação mais<br />
crítica dos demais itens, inclusive dos que se referem a desempenho.<br />
A avaliação dos processos relacionados ao PRO<strong>DE</strong>R será desenvolvida na sequência, com base nos<br />
dados apresentados na tabela XII, a seguir.<br />
TABELA XII<br />
<strong>AVALIAÇÃO</strong> <strong>DE</strong> PROCESSOS – PRO<strong>DE</strong>R<br />
Perguntas/Grupos Cardoso São Jurujuba Rocinha<br />
Moreira Fidélis<br />
1. Membros do Forum 4.04 3.40 -o- 4.12<br />
2. Capacitadores 3.30 4.10 -o- 3.50<br />
3. Consultores x 4.50 -o- 3.91<br />
4. Funcionário do PRO<strong>DE</strong>R 4.44 5.00 3.67 3.33<br />
5. Equipe do PRO<strong>DE</strong>R da Sede 4.80 4.80 4.76 4.72<br />
6. Gerentes de Produtos 3.64 3.64 3.64 3.64<br />
Um exame panorâmico dos dados da tabela XII indica que a avaliação dos diferentes grupos<br />
considerados é, predominantemente, favorável tendo em vista o número significativo de notas<br />
superiores a 4.00, várias delas muito próximas do 5.0. Mesmo a menor nota atribuída (3,30) pode ser<br />
considerada razoável. Mais uma vez, uma análise mais detalhada dos itens que compuseram as médias<br />
mostradas na tabela acima, ajudará a compor um quadro mais nítido da avaliação realizada.<br />
Assim, no que toca aos membros do fórum cabe destacar que, no caso de Cardoso Moreira, onde a nota<br />
obtida foi superior a 4.00, atribuiu-se notas muito baixa a dois itens que tratavam da qualidade e da<br />
utilidade do diagnóstico utilizado para a elaboração do Plano de Desenvolvimento, o que forçou uma<br />
redução da nota geral atribuída pelos membros do fórum. De fato, se tirarmos esses dois itens do<br />
cômputo da média (tendo em vista que se referem a uma parte do processo realizado fora do SEBRAE),<br />
esta subiria para quase 4.5, indicando uma avaliação bastante positiva de todo o processo de montagem<br />
e condução do forum.<br />
Já no caso de São Fidélis, as notas mais baixas estavam associadas a itens referentes ao resultado do<br />
processo de capacitação (ver perguntas 10 a 14 da tabela Membros do Fórum, do Anexo I deste<br />
relatório). Essa é uma informação que deve merecer uma maior atenção por parte da Coordenação<br />
27
do Programa, já que a capacitação é um elemento estratégico de todo o processo do SEBRAE e um<br />
fracasso nesta parte pode vir a comprometer o resultado esperado.<br />
No PRO<strong>DE</strong>R da Rocinha, além de se ter encontrado o melhor resultado dos três que tiveram fórum,<br />
constatou-se também uma distribuição bastante homogênea das notas, sem nenhum item mais<br />
discrepante. No que toca ao resultado do processo de capacitação, por exemplo, as notas atribuídas<br />
foram bastante elevadas, o que pode ser uma informação interessante para uma posterior comparação<br />
deste caso com o de São Fidélis, numa outra rodada de avaliação.<br />
Um aspecto curioso foi observado na avaliação dos capacitadores e dos consultores. Foi indagado dos<br />
capacitadores que avaliassem a participação dos consultores no processo e vice-versa. A avaliação dos<br />
consultores sobre os capacitadores foi desfavorável, assim como o foi a dos capacitadores em relação<br />
aos consultores, a exceção sendo São Fidélis em que o capacitador deu nota 5 ao consultor mas recebeu<br />
nota 3 (em São Fidélis o questionário para consultor foi aplicado ao supervisor do PRO<strong>DE</strong>R Especial e<br />
a avaliação sobre o consultor disse respeito às suas ações). Essa avaliação mutuamente negativa<br />
contribuiu para baixar a média desses dois participantes do processo. Essa informação deve, sem<br />
dúvida, ser considerada com atenção pela Coordenação do Programa porque indica que pode ter<br />
ocorrido problemas de comunicação ou de compreensão dos papéis de dois importantes atores do<br />
processo de implantação do programa.<br />
Finalmente, constata-se uma nota bastante favorável atribuída pela equipe do PRO<strong>DE</strong>R da sede, o que<br />
seria esperado e coerente, já que são o grupo mais comprometido e envolvido no processo. Os gerentes<br />
de produto, por seu turno, repetiram a avaliação mais crítica que haviam feito para as ADRs, dando,<br />
inclusive, uma nota muito semelhante. Um dado interessante a ser destacado na avaliação desses dois<br />
grupos diz respeito a perguntas idênticas que eram feitas a ambos. Por exemplo, perguntava-se a ambos<br />
se havia cooperação entre a Equipe do Proder e os Gerentes de Produto. Os primeiros atribuíram nota 5<br />
(máxima), indicando perceber um padrão de elevada cooperação. Já os gerentes de produto atribuíram a<br />
mesma questão a nota 3,45, dando a entender que têm uma percepção mais pessimista sobre o grau de<br />
cooperação entre as duas equipes.<br />
Em outro item, indagava-se a ambos se existiam problemas na utilização de produtos do SEBRAE<br />
pelo PRO<strong>DE</strong>R. Os membros da equipe do PRO<strong>DE</strong>R deram nota 4.25 a esta pergunta enquanto que os<br />
Gerentes de Produto atribuíram nota 3.77 à mesma. Ocorre, todavia, que a nota atribuída pela Equipe<br />
do PRO<strong>DE</strong>R a este item foi a menor de todas, enquanto que os Gerentes de produtos atribuíram a este<br />
item a maior nota dentre todos os itens avaliados. Assim, embora a percepção da equipe do PRO<strong>DE</strong>R<br />
fosse em termos absolutos, digamos, mais “generosa”, foi considerada severa relativamente à avaliação<br />
dos demais itens. Já a equipe de gerentes de produtos foi mais rigorosa na avaliação de todos os itens<br />
mais foi mais “condescendente” na avaliação deste item. Cabe aqui o mesmo comentário feito em<br />
relação a consultores e capacitadores. Os sinais deste tipo revelados nesta avaliação devem ser<br />
entendidos pela direção e pela equipe gerencial como um desafio para adotar ou intensificar medidas<br />
que melhorem a coordenação, comunicação, cooperação, enfim todas essas dimensões do processo<br />
gerencial que vão ser determinantes na maioria dos casos, para o êxito ou fracasso das políticas<br />
organizacionais.<br />
4 - CONCLUSÕES<br />
Ao longo dos itens anteriores, procurou-se enumerar e destacar evidências e sinais que refletem<br />
fragilidades, mas também sucessos do processo de gestão do SEBRAE e que vão determinar, em<br />
última instância, a qualidade do desempenho da instituição e o impacto que ela produzirá na vida de<br />
seus clientes e na sociedade. A seguir apresenta-se, de forma esquemática e direta um sumário desses<br />
pontos.<br />
28
1. Necessidade de adequação e atualização de produtos;<br />
2. Desenvolver produtos que sejam percebidos pelo cliente como capazes de gerar benefícios diretos e<br />
objetivos;<br />
3. Desafio de diferenciar estratégias por região e tipo de cliente (fugir da armadilha da simetria);<br />
4. Utilizar de forma estratégica os diferenciais do SEBRAE: capilaridade, conhecimento detalhado do<br />
MPE e de sua região;<br />
5. Usar o treinamento de forma estratégica, como porta de entrada e acesso ao cliente, criando a partir<br />
daí um envolvimento maior e consolidando a lealdade;<br />
6. Investir no acompanhamento do cliente: o serviço foi de qualidade? Atendeu as expectativas?<br />
Gerou os resultados esperados? (criar lealdade);<br />
7. Refletir sobre estratégias e instrumentos de divulgação do SEBRAE, tanto da instituição, como de<br />
sua missão, quanto de seus produtos;<br />
8. Investir no aprimoramento de mecanismos gerenciais relacionados a:<br />
• Comunicação entre Sede e ADRs<br />
• Interação entre Sede e ADRs<br />
• Coordenação e Articulação entre equipes de direção e planejamento (Gerentes de Produtos) e<br />
pessoal de ponta e responsáveis por projetos (como PRO<strong>DE</strong>R)<br />
9. Reconhecer as áreas e setores com desempenho destacado e aprender com elas (aprender com as<br />
melhores práticas);<br />
10. Reconhecer as áreas e setores com piores desempenho e tirar lições dos fracassos;<br />
11. Investir na capacitação do pessoal, especialmente da ponta, procurando formar um profissional<br />
capaz de atuar como consultor;<br />
12. Investir na ampliação e consolidação de parcerias, para consolidar a imagem da instituição e criar<br />
alianças estratégicas e operacionais;<br />
13. Permitir uma participação maior desses aliados na discussão de prioridades, desenho de produtos,<br />
etc (ouvir o cliente);<br />
14. Especificamente quanto ao PRO<strong>DE</strong>R:<br />
• Assegurar um relacionamento harmonioso e construtivo entre os diferentes participantes do<br />
processo: consultores e capacitadores, equipe do proder e gerentes de produtos;<br />
• “Testar” a qualidade do diagnóstico antes de sua utilização pelo fórum;<br />
• Rever e avaliar continuamente o conteúdo da capacitação;<br />
• Levar em conta as peculiaridades de cada comunidade no desenho do conteúdo e na sua<br />
implementação (evitar a armadilha da simetria)<br />
Finalmente, é importante ressaltar que se deve a todo o custo evitar a armadilha de considerar o<br />
presente trabalho, bem como as recomendações acima com um fim, ou o fim. A avaliação não é um<br />
fim, mas um meio. Um meio de melhorar o processo de gestão e, por último, o desempenho das<br />
instituições e dos programas públicos. Nesse sentido, deve haver o compromisso de torná-la contínua,<br />
utilizando-a como uma importante ferramenta gerencial para o fortalecimento institucional.<br />
Assim, espera-se que a principal contribuição deste trabalho, antes das recomendações listadas acima,<br />
seja a própria metodologia que possibilitou traçar uma minuciosa radiografia da atuação e do<br />
desempenho do SEBRAE e que permitiu identificar recomendações ou reflexões que, se espera,<br />
melhorem o desempenho da instituição. É fundamental não esquecer que, cada vez mais, as<br />
organizações de sucesso devem estar comprometidas com a melhoria contínua, para a qual a avaliação<br />
pode ser um valioso instrumento.<br />
29
5 - BIBLIOGRGAFIA<br />
BRUDNEY, Jeffrey L., F. Ted Hebert, Deil S. Wright. Reinveinting Governement in the America<br />
States, Measuring and Explaing Administrative Reform. Public Administration Review.<br />
January/February 1999, vol. 59, n. 1.<br />
COHEN, Ernesto e FRANCO, Rolando. Racionalizando as políticas sociais na América Latina: o papel<br />
da gestão. In: Gestión y análisys de políticas públicas. Madrid: Inap, enero/abril, nº 2, pp. 101-8 (essa<br />
informação os autores citam de Haindl, Buvinic e Irarrazaval, 1989).<br />
DILGER, Robert Jay, Randdph. Moffett, Linda Struyk. Privatization of Municipal Services in<br />
Americas Largest Cities. Public Adminstration Review. January/February 1997, vol. 57, n. 1.<br />
KETTL, Donald F, A revolução global: reforma da administração do setor público, pp. 74-76, in<br />
Reforma do Estado e Administração Pública Gerencial, Luiz Carlos Bresser Pereira e Peter Sink, orgs.<br />
LUSTOSA DA COSTA, Frederico & CASTANHAR, José Cezar. Avaliação de Programas Sociais:<br />
limites e possibilidades. Paper apresentado no 22° Encontro Nacional da ANPAD, em Foz de Iguaçu,<br />
ANPAD, de 27 a 30 de setembro de 1998.<br />
SCHWARTZMAN, Jacques. Um sistema de Indicadores para as Universidades Brasileiras.mimeo,<br />
NUPES, USP, Documento de Trabalho 5/94.<br />
SULBRANDT, José. “La evaluacion de los programas sociales: una perspectiva crítica de los modelos<br />
usuales”. In KLIKSBERG, Bernardo (org.). Pobreza: un tema impostergable. México, Fondo de<br />
Cultura Economica, 1993.<br />
SEBRAE/RS. “Indice de Eficácia Percebida dos Produtos do SEBRAE-RS”, mimeo, Porto Alegre,<br />
Janeiro 1999.<br />
TENÓRIO, Fernando Guilherme (coord.) et al. Avaliação de projetos comunitários – uma abordagem<br />
prática. São Paulo, Edições Loyola/CEDAC, 1995.<br />
UNICEF. Guide for monitoring and evaluation. New York, 1990.<br />
VOS, Rob. Hacia un sistema de indicadores sociales, BID/IN<strong>DE</strong>S, 1996.<br />
30