AI Safety
Fundamentals
Mitä?
AI Safety Fundamentals -ohjelman tarkoitus on tehdä tekoälyn arvojenkohdistuksen (alignment) ja sääntelyn (governance) kenttä saavutettavammaksi. Koska ala on uusi eikä oppikirjoja tai yliopistokursseja vielä ole, tahdomme täyttää tämän aukon, Tarjoamme kahta linjaa, joista toinen keskittyy teknisiin ja toinen hallinnollisiin kysymyksiin.
Kurssit koostuvat kahdeksan viikon opiskelujaksosta, jota seuraa neljä viikkoa projektityötä. Kurssin aikana järjestetään kaksi puhujatapahtumaa, joissa vieraina ovat Siméon Campos (Research Entrepreneur, SaferAI) ja Esben Kran (toimitusjohtaja, Apart Research).
Kurssi järjestetään yhtä aikaa kaikissa Pohjoismaissa ja Baltian maissa. Kurssilla hyvin suoriutuvat saavat kurssin jälkeen mahdollisuuden osallistua tekoälyturvallisuuden tutkimusleirille.
Kysyttävää? Lähetä sähköposti info@tutke.org.
Milloin?
Hakulomake sulkeutuu: sunnuntaina 10.9.
Kurssin kesto: viikoittain 19.9.–18.12.
Tutkimusleiri: 3.–7.1. 2024
Missä?
Ryhmiä järjestetään Helsingissä, Otaniemessä (Espoo) ja virtuaalisesti.
Sisältö
Kukin viikko koostuu valikoiduista lukumateriaaleista ja harjoituksista, jotka vievät yhteensä noin neljä tuntia. Viikoittainen tapaaminen vie 1½ tuntia. Kurssin lukumateriaalit ovat englanniksi, ja on mahdollista, että ryhmäkeskustelut käydään englanniksi.
Teknisellä linjalla käytetään oppikirjan muotoon muokattua versiota Richard Ngon laatimasta ohjelmasta.
Hallinnollisella linjalla käytetään BlueDot Impactin suunnittelemaa ohjelmaa, joka löytyy täältä.
-
Mitä on tekoälyn turvallisuus?Uskomme, että edistyneen tekoälyn kehittäminen tulee olemaan tämän vuosisadan mullistavimpia saavutuksia. Koneoppimisen kentällä on kuitenkin tällä hetkellä nähtävissä haasteita, jotka voivat kasvaa valtaviin mittasuhteisiin järjestelmien kehittyessä nykyistä paljon kyvykkäämmiksi. Tekoälyn turvallisuudessa on kyse sen varmistamisesta, että tekoälyjärjestelmät ovat eettisiä, luotettavia ja ihmisten arvojen kanssa yhteensopivia. Näiden ongelmien ratkaiseminen edeltäpäin tulee vaatimaan yhteisiä ponnistuksia tutkijoilta, sääntelystä vastaavilta sekä muilta asianosaisilta tulevina vuosikymmeninä.
-
Mitä taustatietoja tarvitsen?Tekninen linja: Tarvitset perusymmärryksen algebrasta ja tilastollisista menetelmistä. Taustatietoa koneoppimisesta ei vaadita, mutta se on vahvasti suositeltavaa. Hallinnollinen linja: Erityistä taustatietoa ei tarvita.
-
Pitäisikö minun hakea tekniselle vai hallinnolliselle linjalle?Suosittelemme linjan valitsemista sen mukaan, mikä sopii parhaiten kiinnostukseesi ja taustaasi. Teknisellä linjalla perehdytään syvemmin tekoälyn arvojenkohdistukseen teknisenä ongelmana ja siihen ehdotettuihin ratkaisuihin. Hallinnollisella linjalla tutkitaan, miten edistyneen tekoälyn riskejä voidaan hallita standardien ja sääntelyn avulla. Jos sinulla on taustaa tietojenkäsittelytieteessä, matematiikassa tai jollain teknisellä alalla, suosittelemme yleensä hakemaan tekniselle linjalle. Jos sinulla on vähemmän tekninen tausta tai olet aiheesta kiinnostunut päättäjä, suosittelemme hallinnollista linjaa.
-
Voinko ilmoittautua molemmille linjoille?Kapasiteettimme on rajallinen, joten voimme hyväksyä hakijan vain yhdelle linjalle. Voit kuitenkin vapaasti lukea toisen linjan resursseja jos haluat ja hakea toiselle linjalle tulevaisuudessa.