Sefydlwyd Bwrdd yr Iaith Gymraeg er mwyn hybu a hwyluso defnyddio'r iaith Gymraeg; ei nod yw annog nifer cynyddol y siaradwyr Cymraeg i ddefnyddio'r iaith yn eu bywydau beunyddiol. Daw'r angen am y Bwrdd yn sgil dirywiad sylweddol yn nghanran y siaradwyr Cymraeg rhwng diwedd y 19eg ganrif a thrydydd chwarter yr 20fed ganrif.
Er bod Deddf Llysoedd Cymru 1942 a Deddf yr Iaith Gymraeg 1967 wedi cynnig peth darpariaeth yn y llysoedd a'r sector cyhoeddus yn fwy cyffredinol, ac er gwaethaf bodolaeth system addysg cyfrwng Cymraeg gynyddol boblogaidd, yn ystod yr 80au, cafwyd pwysau gwleidyddol cynyddol am ragor o gefnogaeth i ddiogelu'r Gymraeg.
Yn 1985, cyflwynwyd cynigion penodol i ddeddfu o blaid y Gymraeg i'r Swyddfa Gymreig gan weithgor o dan Gadeiryddiaeth yr Arglwydd Gwilym Prys-Davies ac, ar wahân, cyflwynwyd cynigion deddfwriaethol i Dŷ'r Cyffredin fel Mesur o dan y rheol 10-munud gan Dafydd Wigley AS. Er bod Llywodraeth y dydd wedi gwrthod y cynigion hyn, fe gydnabu ddymuniad cyffredinol i ddiogelu dyfodol y Gymraeg.
O ganlyniad, fe sefydlodd Ysgrifennydd Gwladol Cymru ar y pryd, Peter Walker, weithgor ymgynghorol o dan Gadeiryddiaeth Wyn Roberts, Gweinidog Gwladol yn y Swyddfa Gymreig, er mwyn cynghori pa gamau yr oedd angen eu cymryd, os o gwbl. Ei brif argymhelliad oedd y dylid creu Bwrdd Iaith Gymraeg ymgynghorol, anstatudol, er mwyn cydio yn y dasg o hybu defnydd o'r Gymraeg.
Derbyniwyd y cynnig hwn, ac ym mis Gorffennaf 1988, sefydlwyd Bwrdd Ymgynghorol yr Iaith Gymraeg, â John Elfed Jones yn Gadeirydd a John Walter Jones yn gyfarwyddwr. Secondiwyd pedwar aelod arall o staff i'r Bwrdd o'r Swyddfa Gymreig.
Roedd dyletswyddau'r Bwrdd yn cynnwys cynghori'r Llywodraeth ar faterion a oedd angen gweithredu gweinyddol neu ddeddfwriaethol yn eu cylch a hybu defnydd o'r Gymraeg yn y sector cyhoeddus, yn y sector preifat ac ymhlith cyrff y sector gwirfoddol.
Yn 1989, fe gyhoeddodd y Bwrdd Yr Iaith Gymraeg: Strategaeth ar gyfer y Dyfodol, a osododd, am y tro cyntaf erioed, gynigion manwl ar gyfer hybu'r Gymraeg a chynyddu'r defnydd ohoni. Yn sgil hyn, cyhoeddwyd dwy set o ganllawiau gwirfoddol ar gyfer defnyddio'r Gymraeg yn y sectorau preifat a chyhoeddus yng Nghymru.
Roedd y Bwrdd Ymgynghorol bob tro yn ceisio cadw golwg ar yr hyn a oedd yn ymarferol, a'r hyn y gellid ei gyflawni. Gwelodd bwrpas gwirioneddol mewn argymell mesurau yr oedd ganddynt gyfle rhesymol o ddod yn gyfraith ac o wneud cyfraniad sylweddol tuag at amddiffyn yr iaith a gwella ei defnydd.
I'r perwyl hwn, cynullodd y Bwrdd Ymgynghorol sawl gweithgor, gan gynnwys gweithgor deddfwriaeth. Gwaith y gweithgor hwn, o dan gadeiryddiaeth Winston Roddick CF, a arweiniodd y Bwrdd i argymell, yn 1991, y dylai'r Llywodraeth gyflwyno Deddf Iaith newydd i'w seilio ar yr egwyddor bod y dilysrwydd cyfartal rhwng y Gymraeg a'r Saesneg—a bod gan unigolion hawl i dderbyn gwasanaethau yn y sector cyhoeddus yn y Gymraeg a'r Saesneg.
Yn y pen draw, fe dderbyniodd y Llywodraeth y ddadl o blaid deddfu a chyflwyno Deddf yr Iaith Gymraeg a ddaeth i rym ym mis Rhagfyr 1993. Creodd y Ddeddf Fwrdd Iaith Gymraeg Statudol.
Penodwyd yr Arglwydd Elis-Thomas o Nant Conwy yn gadeirydd cyntaf a John Walter Jones yn Brif Weithredwr. Ymddeolodd John Walter Jones ddiwedd 2004. Penodwyd Meirion Prys Jones yn olynydd iddo. Dechreuodd yn ei waith ym mis Ebrill 2004.