Research Assistant goes ML Prague

Wir sind stolz berichten zu dürfen, dass Fabian Kovac, Research Assistant in der Forschungsgruppe Data Intelligence am Institut für IT Sicherheitsforschung erfolgreich sein Paper bei der diesjährigen ML Prague eingereicht hat.

Seine Arbeit löste Begeisterung aus! Dies führte nicht nur zu einer Poster Präsentation, sondern gleich dazu, dass Fabian Kovac als Speaker eingeladen wurde! Er wird am 3. Juni 2023 neben Vortragenden von Google, deepmind, Microsoft, Amazon und vielen mehr vor über 1000 Teilnehmer*innen über sein Thema ‚Alternative Baselines for Attainable Utility Preservation‘ vortragen.

Standing Still Is Not An Option: Alternative Baselines for Attainable Utility Preservation

Die rasche Entwicklung des maschinellen Lernens und der künstlichen Intelligenz im Allgemeinen hat zu wachsender Besorgnis über die möglichen Auswirkungen der KI auf die Gesellschaft geführt. Es ist eine große Herausforderung, dafür zu sorgen, dass sich KI-Systeme sicher und vorteilhaft verhalten, insbesondere im Kontext von Reinforcement Learning, bei dem ein Agent lernt, indem er mit einer Umgebung interagiert und Feedback in Form von Belohnungen erhält.

Diese Arbeit zeigt, wie der Ansatz zu sicherem, konservativem und effektivem Verhalten führt, selbst wenn dem Agenten keine No-op-Aktion zur Verfügung steht. Ein zusätzlicher Vorteil liegt in dem variantenbasierten Ansatz, der es ermöglicht, je nach den zu lösenden Aufgaben mehrere Varianten zu berücksichtigen. Die Arbeit adressiert kritische Herausforderungen im Bereich der KI-Sicherheit im Zusammenhang mit Reinforcement Learning und schlägt einen aktualisierten Ansatz vor, um implizit sicheres Verhalten zu erreichen, bei dem negative Nebeneffekte vermieden werden, was zu den allgemeinen Bemühungen beiträgt, sichere und nützliche KI-Systeme für die Zukunft zu entwickeln.

Die ML Prague ist eine der größten Konferenzen zum Thema Machine Learning in Europa. Mehr zur ML Prague und Anmeldemöglichkeiten zur Konferenz finden Sie hier.