top of page

AI Safety
Fundamentals 

Kahdentoista viikon kurssi turvallisen tekoälyn perusteista.

Yhteistyössä Tutke ja AI Safety North

Mitä?

AI Safety Fundamentals -ohjelman tarkoitus on tehdä tekoälyn arvojenkohdistuksen (alignment) ja sääntelyn (governance) kenttä saavutettavammaksi. Koska ala on uusi eikä oppikirjoja tai yliopistokursseja vielä ole, tahdomme täyttää tämän aukon, Tarjoamme kahta linjaa, joista toinen keskittyy teknisiin ja toinen hallinnollisiin kysymyksiin.

Kurssit koostuvat kahdeksan viikon opiskelujaksosta, jota seuraa neljä viikkoa projektityötä. Kurssin aikana järjestetään kaksi puhujatapahtumaa, joissa vieraina ovat Siméon Campos (Research Entrepreneur, SaferAI) ja Esben Kran (toimitusjohtaja, Apart Research).

Kurssi järjestetään yhtä aikaa kaikissa Pohjoismaissa ja Baltian maissa. Kurssilla hyvin suoriutuvat saavat kurssin jälkeen mahdollisuuden osallistua tekoälyturvallisuuden tutkimusleirille. 

 

Kysyttävää? Lähetä sähköposti info@tutke.org.
 

Milloin?

Hakulomake sulkeutuu: sunnuntaina 10.9.

Kurssin kesto: viikoittain 19.9.–18.12.

Tutkimusleiri: 3.–7.1. 2024

Missä?

Ryhmiä järjestetään Helsingissä, Otaniemessä (Espoo) ja virtuaalisesti.

Sisältö

Kukin viikko koostuu valikoiduista lukumateriaaleista ja harjoituksista, jotka vievät yhteensä noin neljä tuntia. Viikoittainen tapaaminen vie 1½ tuntia. Kurssin lukumateriaalit ovat englanniksi, ja on mahdollista, että ryhmäkeskustelut käydään englanniksi.

Teknisellä linjalla käytetään oppikirjan muotoon muokattua versiota Richard Ngon laatimasta ohjelmasta.

Hallinnollisella linjalla käytetään BlueDot Impactin suunnittelemaa ohjelmaa, joka löytyy täältä.

  • What is AI safety?
    We believe that the development of advanced artificial intelligence (AI) would be one of the most transformative achievements of this century. However, the current landscape of machine learning (ML) systems presents intricate challenges, challenges that might be magnified as these systems progress to higher levels of capability. AI safety is about ensuring AI systems are ethical, reliable, and aligned with human values. Resolving these problems ahead of time will require a collaborative effort involving researchers, policymakers, and other stakeholders in the decades to come.
  • What background knowledge do I need?
    Technical track: You will need basic knowledge in linear algebra and statistics. No background knowledge in machine learning is required, although it is highly recommended. Governance track: No special background knowledge is needed.
  • Should I apply for the technical or governance track?
    We recommend choosing the track that seems more suited to your interests and background. The technical track will go deeper into the technical problem of AI alignment and proposed solutions to it, while the governance track will explore how risks from advanced AI can be tackled through standards and regulation. If you have a computer science/math/technical background, we usually recommend applying for the technical track. If you have a humanities/less technical background, or you are a decision-maker concerned about these issues, we recommend applying for the governance track.
  • Can I sign up for both programs?
    We have a limited capacity, so we will only admit a participant on one track at a time. However, you are free to read the resources of the other course on your own, or apply for the other course at a later time.

Usein kysytyt kysymykset

bottom of page