Feeds:
Posts
Comentários

Archive for the ‘Rankings’ Category

Caros leitores, não publico há algum tempo tempo no blog. Peço desculpas, mas é, felizmente, por estar envolvido na área com muitos projetos do qual me orgulho. No entanto, essa é uma semana em que não posso deixar de escrever.
Lembro-me de uma conversa que tive com o professor presidente do Inep Chico Soares há cerca de um ano, quando iríamos conversar sobre ações no âmbito da parceria do Inep com a Fundação Lemann. Há poucos dias haviam sido divulgados os dados do Ideb 2013, divulgação essa que recebeu críticas por não apresentar de forma separada os resultados de língua portuguesa e de matemática na Prova Brasil na planilha de dados do Ideb. O Chico me disse: “eu quero falar não só com o Ernesto da Fundação Lemann, mas quero falar contigo também enquanto formador de opinião. Você sabe de todos os esforços que a gente está fazendo aqui, de que se os dados atrasam é por que estamos trabalhando mais na consistência deles, em indicadores contextuais, então fala isso quando for dar uma entrevista para um jornalista”.
Foi um puxão de orelha que recebi bem, ainda que os problemas daquela divulgação não se limitassem apenas a aspectos técnicos. Não é difícil reconhecer que nossas altas expectativas às vezes nos fazem ressaltar pouco os avanços. O que vale destacar agora, no entanto, é que essa semana, em especial, não é apenas uma semana para lembrar de alguns avanços. É uma semana para celebrarmos feitos históricos que a gestão atual conseguiu implementar.
Ontem, tivemos uma divulgação de dados do Enem por escola com informações para análise muito interessantes: nível socioeconômico, adequação da formação docente e um indicador de permanência na escola. Sobre a divulgação, o ministro Renato Janine Ribeiro disse hoje, aliás, que, apesar do trabalho da equipe do Inep e dos cuidados que buscaram para contextualizar as médias das escolas, já estavam esperando nas manchetes dos jornais de hoje algo como “Inep enrola, mas solta os dados do Enem”. E não veio algo do gênero. Os jornalistas repercutiram de forma positiva a divulgação e os avanços em indicadores contextuais. E não veio algo do gênero não só por mérito do Inep, mas porque a premissa de que o jornalista não quer ouvir ou só quer publicar dados rasos também não é válida. O jornalista, assim como quer vender jornal, também quer essas informações de contexto para conseguir veicular dados que propiciem uma leitura mais adequada. A credibilidade dele é cara para ele.
Inep
Hoje, outro feito. Foi lançado o portal Devolutivas Pedagógicas. O portal, uma iniciativa do Inep com parceria do Todos Pela Educação, da Fundação Lemann, da Abave, do Instituto Unibanco e do Itaú BBA, fornece aos professores uma interpretação pedagógica dos itens da Prova Brasil. Para a interpretação da escala Saeb também são apresentadas as habilidades que os alunos dominam, em um passo além do que faziam até então os descritores das avaliações. Essas habilidades, ou sentenças descritoras, especificam para os itens de língua portuguesa, por exemplo, a operação cognitiva (identificar ou recuperar, por exemplo), o objeto de conhecimento (informação explícita, por exemplo), o contexto (o gênero literário, por exemplo) e um indicador de complexidade textual. Isso tudo dá ao professor muito mais concretude do que é a habilidade medida pela item, propiciando a ele, inclusive, a poder fazer seus itens. Isso tudo dá mais norte ao trabalho do professor no desenvolvimento das habilidades de seus alunos.
A divulgação contextualizada de uma avaliação como o Enem, que por tantas vezes já recebeu leitura inadequada dos dados, e um portal que caminha na direção de fazer as avaliações do Saeb contribuírem pedagogicamente de forma efetiva fazem dessa uma semana histórica. Parabéns, Chico Soares, parabéns, Helber Vieira, e parabéns a todos os técnicos do Inep e parceiros que estão contribuindo para que a educação brasileira trilhe um caminho de ações e análises a partir de evidências.

Read Full Post »

Para começar a discussão sobre os resultados do Ideb 2013, divulgados ontem (05/09) pelo Ministério da Educação, compartilho artigo que Denis Mizne, diretor executivo da Fundação Lemann, e eu escrevemos para o jornal O Estado de S. Paulo.

 

Choque de realidade

Alcançar o Ideb projetado para 2021 nunca pareceu tão difícil para o Brasil. Enquanto as metas ficam mais ambiciosas, o indicador avança pouco no Ensino Fundamental e permanece estagnado no Ensino Médio. Os avanços já eram pequenos em 2011, mas ao não bater as metas estabelecidas em duas das três etapas, enfrentamos agora o choque de realidade. Destrinchando um pouco o indicador e olhando para os seus dois componentes – taxas de aprovação e aprendizagem – vemos ainda que as metas não batidas se devem ao fato de que a maioria dos alunos não está aprendendo (a aprovação melhorou; são as notas na Prova Brasil que caíram ou não melhoraram).

Um ponto merece atenção na análise dos resultados: o desempenho dos alunos nos anos iniciais, como regra, tem sido o teto para o desempenho nas etapas seguintes. Nosso sistema educacional não tem mecanismos estruturados para garantir que os alunos que não aprenderam português e matemática no início da vida escolar consigam superar essa defasagem e seguir com sucesso seu percurso.

Os dados refletem um cenário onde temos, reconhecidamente, muito esforço – mas ainda pouco foco na aprendizagem e no que acontece em sala de aula. Boa parte do debate público educacional recente foi centrado no percentual do PIB ou nos recursos do pré-sal que seriam destinados à educação. Não existe o mesmo engajamento e mobilização para discutir as práticas escolares e as reformas estruturantes que fazem a diferença para o aluno efetivamente aprender.

Temos agora a oportunidade – e o desafio – de usar estes resultados para acelerar as mudanças necessárias. Uma prioridade é avançar na definição do que é essencial que os alunos aprendam, construindo uma Base Nacional Comum de altas expectativas, que seja clara e concisa, e que ajude a alinhar e organizar o sistema educacional. Uma segunda mudança urgente é conseguir preparar os nossos professores para garantir o aprendizado dos alunos. Para isso, os cursos de formação inicial e continuada precisam se voltar mais para a prática e o desenvolvimento destes profissionais terá que incluir mais apoio contínuo e orientação. Por fim, é necessário criar mecanismos para que as redes e escolas com mais dificuldades também consigam avançar. Por exemplo, incentivando a troca com aqueles que estão conseguindo bons resultados e destinando mais recursos para os que mais precisam.

Read Full Post »

Os resultados do Brasil no exame do Pisa 2012, avaliação educacional realizada por vários países do mundo, foram bastante discutidos pelos pesquisadores brasileiros – o que obviamente é uma boa notícia. Por isso, vou nesse post apenas trazer algumas observações que podem agregar à discussão.

Dois fatores parecem ter influenciado no alto número de análises sobre os resultados do Brasil no exame:

  1. A riqueza dos relatórios do Pisa, que dá aos pesquisadores bastante insumo para análises.
  2. A não apresentação e discussão adequadas de informações relevantes para análises dos dados brasileiros, o que até parece contraditório ao primeiro ponto dada a riqueza dos documentos.

Sobre o segundo item duas informações metodológicas me chamam a atenção em especial:

  • A não inclusão dos alunos das escolas rurais no cálculo da média brasileira nas tabelas destacadas no relatório (foram incluídos apenas nas tabelas apresentadas como anexos), devido a muitos frequentarem classes multisseriadas;
  • A mudança do que significa “grade” para o Brasil. Com a implementação do Ensino Fundamental de 9 anos o país passou a ter 12 “grades” (as nove do Fundamental mais as três do Ensino Médio), enquanto até 2009 o país tinha 11 “grades”. Isso significa que no relatório de 2009 a sétima “grade”, por exemplo, é a 7ªsérie / 8º ano, enquanto no relatório de 2012 ela é o 7º ano. Por esse motivo em 2012 apenas alunos brasileiros que estavam no mínimo na oitava “grade” (e não na sétima) foram elegíveis para o exame.

Esses dois pontos são explicados de forma muito breve em uma nota técnica do relatório:

In 2006, the education system in Brazil was revised to include one more year at the beginning of primary school, with the compulsory school age being lowered from seven to six years old. This change has been implemented in stages and will be completed in 2016. At the time the PISA 2012 survey took place, many of the 15-year-olds in Grade 7 had started their education under the previous system. They were therefore equivalent to Grade 6 students in the previous system. Since students below Grade 7 are not eligible for participation in PISA, the Grade 7 students in the sample were not included in the database.

Brazil also has many rural “multigrade” schools where it is difficult to identify the exact grade of each student, so not possible to identify students who are at least in Grade 7. The results for Brazil have therefore been analysed both with and without these rural schools. The results reported in the main chapters of this report are those of the Brazilian sample without the rural schools, while this annex gives the results for Brazil with the rural schools included.

A não menção dessas informações no relatório nacional (Country Note) gerou muita polêmica sobre a amostra de estudantes que fez o Pisa e sobre os resultados do Brasil. Se não considerarmos o novo significado de “grade”, por exemplo, teremos a impressão de que em 2012 a amostra brasileira não foi representativa e foi preenchida pelos jovens de maior escolaridade. Aliado a isso ainda existe o problema de as pessoas enxergarem o Pisa como uma avaliação de estudantes de 15 anos, quando na verdade para o Brasil o exame avalia estudantes que completarão 16 anos no ano letivo (nascidos em 1996 no caso do exame de 2012). O professor Chico Soares discutiu esse aspecto no blog do Simon Schwartzman, que trouxe artigos de vários especialistas sobre os resultados do Pisa 2012.

Os dois pontos que coloco merecem ser melhor estudados, mas ao que parece o problema maior é de comunicação e não houve grandes mudanças amostrais no exame de 2012 em relação ao exame de 2009. Faço então duas considerações sobre os resultados:

  • Houve um avanço do Brasil no exame, mas ele é abaixo do desejável, principalmente se queremos garantir um aprendizado adequado a maior parte dos nossos alunos em um período próximo. Embora possa parecer rasa, essa é a conclusão que pode ser tirada. Não houve nem um milagre brasileiro nem fomos um desastre e nos mostramos estagnados.
  • Houve uma evolução destacada no percentual de alunos abaixo do nível 1, o que foi discutido por Paula Louzano e Creso Franco. Como apontado pelo professor Creso é possível que o exame de 2012 discrimine melhor alunos de baixo desempenho, fazendo com que tenhamos menos alunos com a pontuação próxima da mínima sem isso representar ganhos de aprendizagem.

Retomarei ainda alguns pontos e apresentarei alguns dados que calculei para reportagem da Época de Camila Guimarães sobre o percentual de alunos brasileiros que dominam as duas competências avaliadas pela Prova Brasil (matemática e língua portuguesa) e as três competências avaliadas pelo Pisa (Matemática, Leitura e Ciências). De qualquer forma, já dá para adiantar que os dados são claros: temos muito a avançar!

Read Full Post »

Primeiramente, quero começar me retratando por um post que escrevi no início de novembro (já apagado). Tenho ponderações em relação a conclusões de um estudo publicado, mas por ter o contato das pessoas que conduziram o trabalho deveria ter feito as críticas primeiramente de forma privada. Meu texto não foi na direção de uma academia melhor e mais colaborativa, nem respeitou da forma devida a trajetória dos coordenadores do estudo.

Nessa semana, apresento algumas análises que fiz sobre a meta 7 do Plano Nacional de Educação (PNE) no ano passado no blog da Fundação Lemann, e que ainda seguem válidas. Hoje, em Brasília, foi lançado o Observatório do PNE, uma iniciativa de diversas organizações liderada pelo Todos Pela Educação para acompanhar as metas do Plano Nacional de Educação, ainda em tramitação. A Fundação Lemann acompanhará justamente a sétima meta do plano. Considero essa uma importante iniciativa na busca de um maior envolvimento da sociedade com as políticas públicas em educação. No final do post disponibilizo também uma entrevista com a professora Lisete Arelaro e comigo sobre o Plano Nacional de Educação.

Como se pode perceber, não está fácil cumprir a meta de um post semanal, mas seguirei tentando. Já adianto que o próximo post discutirá os resultados da avaliação do Pisa em 2012, um dos principais exames internacionais em educação, que avalia jovens de 15 e 16 anos nas áreas de Matemática (que foi o foco em 2012), Leitura e Ciências.

_

Análise referente à meta 7 do PNE

Meta 7: Atingir as seguintes médias nacionais para o Ideb

Contexto
O Ideb foi criado em 2007 com o intuito de ilustrar por meio de um número a qualidade da Educação Brasileira unindo dois conceitos: aprendizado e fluxo escolar. O índice utiliza as taxas de aprovação nas etapas escolares e os respectivos resultados obtidos no final da etapa na avaliação Prova Brasil/Saeb.

Em cinco anos, o indicador se popularizou e se consolidou. A nota no Ideb se transformou em um indicador educacional simples e fácil de acompanhar para diversos setores da sociedade. As escolas e redes perseguem metas baseadas no Ideb e o impacto nas taxas de fluxo escolar que o indicador proporcionou é notável. Pais, jornalistas e gestores passaram a basear suas discussões e o debate sobre qualidade educacional em um índice comum. No período, também surgiram críticas, é claro. Por exemplo, o fato de o componente de fluxo ser uma medida de trajetória dos alunos e não de qualidade das escolas ou das redes, ou o ponto de não necessariamente todos os alunos fazerem a Prova Brasil, o que distorceria os resultados refletidos pelo indicador. Mesmo assim, é possível dizer que o balanço em seis anos é positivo e o indicador nos ajuda a fazer análises importantes.

Desafios

Os gráficos abaixo ilustram muito bem os desafios que serão colocados para o cumprimento da meta 7. Um deles, e mais discutido, é a necessidade de acelerar o ritmo de melhoria nos indicadores. A Figura 1 mostra como as evoluções nos anos finais do Ensino Fundamental (EF II) e no Ensino Médio (EM) foram bem abaixo da evolução na primeira etapa do Ensino Fundamental (EF I). E mesmo considerando que os alunos possam estar entrando um pouco mais preparados nessas etapas, as metas a partir de 2013 já começarão a se mostrar mais ambiciosas, principalmente considerando que é mais difícil evoluir quando se está em um patamar mais alto.

Figura 1: Evolução histórica e metas para o Ideb (Brasil)

                                      * Em tracejado as evoluções necessárias.

Um segundo desafio é a promoção de uma maior equidade nos indicadores das unidades da federação. A média nacional no Ideb, que é o que a meta 7 verifica, é um indicador muito importante. Mas não podemos ignorar a desigualdade que existe entre os estados brasileiros. Na figura abaixo, cada triângulo ilustra o valor do Ideb de cada um dos 27 estados (quando mais de um estado possui o mesmo valor de Ideb há triângulos sobrepostos). É possível ver a distribuição para os 3 níveis da Educação Básica.

Figura 2: Valores de Ideb das unidades da federação por etapa da Educação Básica em 2009

O que o gráfico nos mostra é o retrato da desigualdade, com resultados muito díspares entre os estados. Mesmo nos anos iniciais do Ensino Fundamental, com resultados consideravelmente melhor do que as outras etapas, ainda existe uma grande inequidade: enquanto o Distrito Federal e Minas Gerais obtiveram um Ideb de 5,6 o Pará teve um Ideb em 2009 de 3,9. Para o país, é importante cobrar que a Meta 7 seja atingida com todos os estados alcançando o Ideb ideal – e não com uma média de realidades muito desiguais.

Ao olharmos as políticas de países que se destacam em Educação, vemos várias medidas que podem ser adotadas para promover maior equidade. Na Irlanda, há políticas como relação aluno-professor reduzida nas escolas primárias localizadas em áreas urbanas com mais desvantagem e bônus com base no nível de desvantagem da escola. Na Bélgica, existe um mecanismo de auxílio e suporte a crianças em uma situação desfavorável. No Chile, país com os melhores resultados educacionais na América do Sul, há um acréscimo de salário para professores que atuam em áreas com difíceis condições de trabalho, como locais em que a taxa de criminalidade é alta. Aprender com esses países será um passo importante para o Brasil.

Programa Educação Brasileira – debate sobre o Plano Nacional de Educação (PNE)

  • Leia também:

Metas que não conversam com a realidade

Read Full Post »

Já discuti algumas vezes nesse portal as múltiplas funções do Enem. Mas, independentemente da visão que se possa ter dessa questão, o ponto é que hoje o Enem se consolidou como um exame de ingresso ao Ensino Superior e que pais e sociedade têm muito interesse em saber dados a partir do exame sobre os alunos e escolas. Isso é, mesmo sendo hoje mais um mecanismo de seleção do que de avaliação, há uma demanda clara por dados do Enem. Por isso, como em breve os resultados de 2012 devem ser divulgados, discuto aqui sobre os rankings comumente gerados, os problemas que temos hoje e que ações são necessárias para um olhar mais adequado a partir dos resultados do exame.

O Enem, ao virar mecanismo de seleção para o ingresso no ensino superior, passou a receber maior atenção da sociedade, em especial de pais e estudantes. Diante desse cenário, são cada vez mais frequentes rankings de escolas a partir dos resultados do exame. O grande problema é que o ranking não atende ao anseio da sociedade de saber quais são as melhores escolas. E, pior ainda, ele pode levar a análises completamente equivocadas.

A inscrição para o Enem é feita pelo próprio aluno e é facultativa, o que faz com que varie o percentual de participantes no exame em cada escola. Além disso, o Enem avalia competências adquiridas durante toda a Educação Básica. O aprendizado absorvido pelos alunos no Ensino Fundamental e fora do ambiente escolar influencia muito no resultado.

Esses dois fatores já fazem com que seja bem difícil avaliar as escolas pela média de seus alunos. A depender da taxa de participação e do histórico educacional, que é muito influenciado pelo nível socioeconômico dos estudantes, um mesmo resultado pode ser interpretado de diversas formas.

Outro problema se refere ao protagonismo dado às escolas nas primeiras posições do Enem. Isso prejudica ainda mais as análises ao ponto que não existe uma escala que aponte os resultados esperados para um aluno concluinte do Ensino Médio. Uma escola que está, por exemplo, na septuagésima posição no ranking nacional, geralmente, não tem resultados muito inferiores às 20 primeiras (deverei em breve apresentar dados referentes a isso). Mas, com o foco dado ao ranking, a mensagem que fica é que a qualidade do ensino entre elas é muito distinta, o que não é verdade. Conseguir alguns pontos a mais afeta muito a posição no ranking e, por isso, vemos escolas se dedicando a treinos para o Enem, estreitando seus currículos a partir do que é cobrado no exame e até mesmo induzindo alunos mais fracos a não participarem da avaliação.

Qualificar o que é uma pontuação adequada no Enem é essencial. Se ainda o olhamos como avaliação, é preciso que se estabeleça quais pontuações são abaixo do esperado para um aluno concluinte do Ensino Médio e quais são adequadas, ou até mesmo, que em edições anteriores garantiram ingresso aos cursos mais concorridos. Importante também é passarmos a olhar o exame como uma avaliação do estudante – e não da escola.

Para avaliarmos escolas, precisamos de uma base nacional curricular que nos mostre o que esperamos delas e que garanta expectativas de aprendizagem. Pois o que se pode ter certeza é que o Enem hoje não traz um bom diagnóstico e reflexão sobre os milhões de alunos que saem do Ensino Médio sem um aprendizado que atenda aos seus projetos de vida.

  • Leia também:

O Enem auxilia, mas não é uma avaliação de escolas*

As escolas com maior participação no Enem

Avaliação do Ensino Médio? Algumas reflexões sobre o Enem e as avaliações externas

Participação das escolas por unidades da federação no Enem

As funções do Enem

Read Full Post »