¿Cómo calcular el área cubierta por una forma irregular dentro de un círculo (del cual se conoce el área)? ¿Hay algún software para esto?

Puedes usar un editor gráfico un poco más avanzado, como Gimp (es gratis).
Estos editores pueden calcular un histograma de brillo (o colores). La respuesta a su pregunta es el área total de color “negro”. Gimp puede decirle este número para el rango seleccionado en un histograma (Colores -> Infor -> Histograma).
Aquí tienes 33,918 puntos negros más o menos de 122,150.

Para excluir el área negra fuera de la placa de Petri, puede editar primero la imagen y llenarla manualmente con color blanco, o hacer una imagen de control de una placa vacía.
Entonces, aquí solo hay 3.124 píxeles negros en el plato.

Espero que ayude.