Blog Hrůzy jménem TSP se zabývá testy v přijímacích zkouškách. Řada reakcí, které se vyrojily, ukazuje, že stále panuje mnoho nejasností a stále je co vysvětlovat. Jaké jsou výhody a nevýhody oborových testů, kdy se hodí testy studijních předpokladů, proč není dobré dělat pohovory, jak postupují nejprestižnější univerzity, ale také, jak se dělá kvalitní test a jak se pozná, že je kvalitní.
Kolega Martíšek svým blogem Hrůzy jménem TSP otevřel otázku kvality přijímacích zkoušek. I když se dnes více orientuji na jiné věci (viz třeba slideslive.com/w/38889999 nebo slideslive.com/w/38890072), nedá mi to, abych na množství nepoučených reakcí, nereagoval.
TSP není OSP
Za druhé, kritika kolegy Martíška se týká testu TSP Masarykovy univerzity a nikoliv testu Obecných studijních předpokladů (OSP) společnosti Scio. Někteří si to bohužel pletou. Ani vzdáleně podobné závady byste v testech společnosti Scio nenašli. Test Obecných studijních předpokladů (dále jen OSP) – ukázka viz www.scio.cz/nsz/cs/osp.asp, má jasně danou strukturu a předem známé typy úloh. U každého typu úlohy lze vždy vysvětlit, jak schopnost takové úlohy řešit, souvisí s obecnými předpoklady ke studiu. A to předpoklady ke studiu naprosté většiny oborů. Test OSP není produktem snahy o originalitu, vychází z rozsáhlých a dlouhodobě potvrzovaných zahraničních zkušeností, zejména z testu SAT Reasoning testu (dříve plným názvem Scholastic aptitude test) a GRE (Graduate record examination). Ty se k přijímání studentů používají už přes padesát let a jejichž kvalita byla vědecky analyzována ze všech možných hledisek, a výsledky publikovány v impaktovaných časopisech. U testu SAT jsme i sami analyzovali souběžnou validitu právě s testem OSP, viz www.scio.cz/1_download/SAT_vs_OSP_soubezna_validita.pdf.Není asi vhodné, abych se pouštěl do kritiky testů TSP Masarykovy univerzity. Jak správně někdo poznamenal, v jistém smyslu je to konkurence, a má vyjádření by tak ani nezněla důvěryhodně. Analytické srovnání testu OSP a TSP jsme ovšem zpracovali a vedení MU zaslali. Zasílám tuto analýzu i kolegovi Martíškovi.
Jak se dělá kvalitní test
Jak má vypadat kvalitní test s výběrem odpovědi (multiple-choice) je pěkně popsáno zde jan.strojil.cz/testy.html nebo www.scio.cz/vyzkum/tvorba_testu/teorie_testu/pozadavky.asp. A jak se při přípravě testu má postupovat zde: www.scio.cz/vyzkum/tvorba_testu/teorie_testu/postup.asp. Jak vidí každý, kdo si tyhle dokumenty projde, dodržovat takový postup vyžaduje jednak čas (a tím pádem peníze), a také odborné, technické a organizační zázemí. Jak třeba zajistíte pilotování úloh, když každou úlohu má vyřešit minimálně 100 reprezentantů cílové skupiny, úloh potřebujete několik set a současně se s úlohami nesmějí seznámit budoucí testovaní? Něco takového může střední nebo vysoká škola dělat jen stěží, prostě na to nemá podmínky. Ovšem pokud se taková metodika nedodržuje, test pak nemůže dobře plnit svoji funkci: být objektivní, spolehlivý (reliabilní) a validní. Jak se nedostatky projeví v míře nespravedlnosti zkoušek, to si mohou zájemci přečíst zde: www.scio.cz/1_download/brozura_NSZ2008.pdf, str.17 a 18.Samozřejmě, že ne všechny testy jsou tzv. high-stake (dle jejich výsledků se o něčem podstatném rozhoduje) a mají takový význam jako přijímací zkoušky, nejsou na ně tedy kladeny takové nároky.
Oborové testy nebo testy obecných studijních předpokladů
Každé má své pro a proti. Mnohdy je nejlepší kombinace.+ Znalostmi z oboru uchazeč prokazuje motivaci ke studiu konkrétního oboru. Námitka: Za prvé, věk, kdy se uchazeči rozhodují, se stále posouvá, mnozí uchazeči se rozhodují na poslední chvíli, někteří až na vysoké škole. Neměla by se o motivaci starat i fakulta? Za druhé, na mnohé obory prostě není dost motivovaných uchazečů. Jak třeba má být uchazeč motivován ke studiu andragogiky či sémiotiky, když neví, o co jde? Ale dokonce i u oborů, kde se to zdá jasné, je zpravidla obsah studia odlišný od laických představ uchazeče.
+ Student, který se k přijímačkám naučil nějaké potřebné množství znalostí tím prokáže, že není líný, zatímco velmi chytří (ale třeba i líní) uchazeči zvládnou test OSP bez přípravy. Bez námitek.
– Výsledek přijímací zkoušky výrazně závisí na vzdělávací historii uchazeče. Ve všeobecně vzdělávacích předmětech jsou tak diskriminováni uchazeči ze středních odborných škol a učilišť oproti gymnazistům (proto ty, kdo to nevědí: absolventi gymnázií tvoří dnes méně než 40 % přijatých na VŠ). A vždy jsou diskriminováni ti, kteří měli špatného učitele. Námitka: úkolem vysoké školy není zkoumat předchozí vzdělávací historii uchazeče, to je jeho problém.
+ Obecné studijní předpoklady jsou relativně stabilní a tudíž jejich úroveň trvá po celou dobu studia. Námitka (obvyklá, ale jen velmi omezeně platná): na test se lze naučit. Není to pravda. Vcelku lehce (několik hodin práce) lze získat zácvik k typům úloh, který v průměru znamená posun o 10 pozic na stobodové percentilové škále. Nelze se ale posunout třeba z 50 na 90. Výborní složí zkoušku bez přípravy napoprvé v 95. percentilu. Slabí se ani při největší snaze nedostanou ani na průměr.
–+ Na test se nelze naučit, a tudíž silně motivovaní uchazeči se slabými studijními předpoklady mají malou šanci. Bez námitek. Viz předchozí.
– Test nepredikuje dostatečně studijní úspěšnost. Korelace vzhledem k závěrečnému prospěchu na VŠ zpravidla nepřesahuje 0,40 (viz www.scio.cz/1_download/brozura_NSZ2008.pdf, str. 15). Námitka: nic lepšího nemáme. Mnohem větší vliv má pochopitelně motivace studenta, ta ovšem je velmi proměnlivá, a to během celého studia. Na počátku studia ji lze předvídat asi stejně dobře jako počasí pro 20. 11. v roce 2014. Z toho hlediska je korelace 0,4 výborný výsledek.
Při dnešní rostoucí právní poučenosti uchazečů se pak zařazením pohovorů fakulty vystavují riziku velkého množství odvolání (přezkumů), a to jak vidět často odvolání oprávněných.
Jednodušší situace je ve světě. Podle World Universtiy Ranking společnosti Thompson Reuters vybírá nejméně 15 z 20 univerzit studenty na většinu oborů podle testu studijních předpokladů, nejčastěji SAT Reasoning testu nebo ACT, popřípadě podle testů, ve kterých oddíly obecných studijních předpokladů tvoří podstatnou část (např. MCAT na medicínu, LSAT na práva). Mezi jinými California Institute of Technology, Harvard, Stanford, Princeton, MIT, Yale.
Velkou potíží při diskusích o přijímacích zkouškách na vysoké školy je otázka, jaké studenty vlastně fakulta hledá. To se sice na první pohled zdá zcela jasné, ale při bližším zkoumání se ukazuje, že to zdaleka není jednoduché. Jen jako příklad uvádím několik možností (některé, pravda, trochu absurdní). Vybrat mezi uchazeči studenty, kteří:
- nejlépe zvládnou první semestr
- s největší pravděpodobností dostudují (v řádném termínu)
- budou z nich nejlepší odborníci (pracovníci) ve vystudovaném oboru
- zůstanou pracovat ve vystudovaném oboru (třeba učitelé)
- přínos studia (přidaná hodnota) u nich bude největší (z hlediska efektivity vynaložených prostředků to není nijak absurdní požadavek)
- bude mezi nimi nejvíce špičkových, elitních odborníků
- bude s nimi během studia nejméně práce
- nejvíce by si studium zasloužili
2 comments:
A co vlastně hledáme?
Měli bychom hledat studenty, kteří znají přísudek a umějí procenta.
Říkají učitelé humanitních i nehumanitních oborů.
Já rozumím pouze snaze VŠ zjednodušit si práci. O nějakém kvalitním výběru studentů na VŠ totiž nemůže být ani řeč.
Post a Comment